Facebook xóa sổ trí tuệ nhân tạo có khả năng tự sáng tạo ra ngôn ngữ mới

Vốn được đào tạo bằng tiếng Anh, nhưng có vẻ do không vừa ý với những sắc thái và sự thiếu liên kết trong ngôn ngữ này, các chương trình AI của Facebook đã quyết định tự sáng tạo ra một hệ thống từ khóa giúp chúng giao tiếp thuận tiện hơn. Điều khiến các nhà nghiên cứu sợ hãi là ngôn ngữ này rất dễ hiểu đối với AI, nhưng lại hoàn toàn vô nghĩa đối với họ. Điều này đồng nghĩa với việc các nhà nghiên cứu không thể biết được tác nhân AI đang chia sẻ những nội dung gì với nhau.

Trong một đoạn trao đổi, hai chương trình (bot) Bob và Alice đã từ bỏ các quy tắc ngữ pháp tiếng Anh và bắt đầu sử dụng loại ngôn ngữ mà chúng tự sáng tạo ra. Bob bắt đầu nói những câu vô nghĩa (Tôi có thể tôi tôi tất cả mọi thứ) và Alice trả lời (Các quả bóng có không với tôi với tôi…) và tiếp tục như vậy.

Ảnh chụp màn hình đoạn hội thoại của hai chương trình bot. (Ảnh: Facebook).

Các nhà nghiên cứu đầu tiên tin rằng cuộc trao đổi này không chỉ là một chuỗi vô nghĩa. Họ lưu ý rằng các từ và cụm từ lặp lại như “tôi” và “với tôi” cho cách mà AI trao đổi bằng ngôn ngữ mới. Trong cuộc hội thoại trên chẳng hạn, các nhà khoa học tin rằng các bot đang bàn luận về số lượng vật phẩm chúng cần lấy.

Công nghệ AI sử dụng hệ thống “phần thưởng”, trong đó chúng trông đợi sẽ đạt được "lợi ích" nhất định sau mỗi chuỗi hành động.

Dhruv Batra, nhà nghiên cứu thuộc viện công nghệ Georgia thuộc Cơ sở Nghiên cứu AI Facebook (FAIR) trả lời Fast Co. Design: “Việc sử dụng tiếng Anh không đem lại lợi ích gì. Các chương trình của AI sẽ bỏ loại ngôn ngữ có thể hiểu được như tiếng Anh và sáng tạo ngôn ngữ mới cho chúng. Ví dụ như nói “cái” (the) năm lần thì có nghĩa là tôi muốn năm vật phẩm này. Thực ra điều này cũng không khác lắm với cách giao tiếp rút gọn của con người.”.

Tuy nhiên, Facebook đã quyết định rằng các chương trình của họ cần phải nói tiếng Anh, một phần là để bảo đảm chúng có thể giao tiếp với con người. Tuy nhiên, các nhà nghiên cứu của Facebook cũng thừa nhận rằng họ không thể hoàn toàn hiểu được ngôn ngữ mà AI đã sáng tạo ra.