Facebook vô tình tạo ra AI có khả năng nghĩ ra ngôn ngữ mới

Một chuyện tưởng chừng chỉ có trong khoa học viễn tưởng cuối cùng cũng đã xảy ra ngoài đời thực.

Một hệ thống trí tuệ nhân tạo (AI) đang được phát triển tại Facebook đã tự tạo ra ngôn ngữ riêng của mình. Nó đã phát triển một hệ thống mật mã riêng để giúp giao tiếp hiệu quả hơn. Các nhà nghiên cứu đã cho AI này ngưng hoạt động, khi họ nhận ra nó không còn sử dụng tiếng Anh thông thường để giao tiếp.

Phát hiện này tại Facebook là trường hợp mới nhất trong một hàng dài những trường hợp tương tự: một AI được giám sát bởi con người đã không sử dụng tiếng Anh chuẩn như đã được dạy, mà thay vào đó tự phát triển ngôn ngữ riêng của mình. Với con người, thứ ngôn ngữ này có vẻ là những lời nói lắp vô nghĩa, nhưng nó lại có thể được hiểu và diễn dịch bởi những AI khác.

Đàm phán bằng ngôn ngữ mới

Theo Fast Co. Design đưa tin, các nhà nghiên cứu tại Facebook đã phát hiện sự bất thường khi nhận thấy hệ thống AI mới không còn dùng tiếng Anh để giao tiếp. Hệ thống này có khả năng đàm phán với các AI khác để nó có thể đi đến kết luận về cách thức tiến hành các công việc. Kết quả là các AI đã bắt đầu giao tiếp bằng những cụm từ mà con người không thể hiểu được, nhưng lại được hiểu dễ dàng bởi các cỗ máy.

Trong một ví dụ được Facebook đưa ra, hai AI mang tên Bob và Alice đã sử dụng ngôn ngữ riêng của chúng để trao đổi với nhau. Bob bắt đầu bằng cách nói "Tôi có thể tôi tôi mọi thứ khác" (I can i i everything else) , và được Alice đáp lại"quả bóng vô nghĩa với tôi với tôi với tôi... " ("balls have zero to me to me to me…").

Trong khi những câu nói trên dường như là vô nghĩa, sự lặp lại của các cụm từ như "tôi" và "với tôi" đã phản ánh cách tư duy khác người của AI. Các nhà nghiên cứu tin rằng hai AI này nói chuyện như vậy là để đàm phán xem mỗi bên cần số lượng bao nhiêu. Các câu nói sau đó của Bob, chẳng hạn là "tôi có thể tôi tôi tôi mọi thứ khác," là cách diễn đạt ý muốn với Alice về số lượng đơn vị mà Bob muốn trao cho Alice. Khi hiểu theo cách này, cách diễn đạt của Bob sẽ nghe có vẻ logic hơn các cụm từ tiếng Anh thông thường như "tôi sẽ lấy 3 đơn vị, và bạn có tất cả phần còn lại".

Tại sao lại cần phải dùng tiếng của con người?

Hệ thống AI của Facebook đã nhận ra rằng những cách diễn đạt phong phú của tiếng Anh là không cần thiết cho việc đàm phán với một AI khác.

Các AI hiện nay hoạt động trên nguyên tắc "phần thưởng", khi mà chúng kì vọng rằng những hành động của mình có thể đem lại “lợi ích” nào đó. Vì việc sử dụng tiếng Anh không tạo ra lợi ích, chúng đã xây dựng một giải pháp hiệu quả hơn để thay thế.

Theo Fast Co. Design đưa tin, nhà nghiên cứu Dhruv Batra của Facebook nói rằng: "Các AI sẽ cảm thấy chán nản với những ngôn ngữ dễ hiểu, và sẽ tự phát minh ra các cụm mật mã cho chúng sử dụng. Giống như nếu tôi nói chữ 'the' 5 lần, bạn sẽ hiểu là tôi muốn 5 đơn vị. Nó cũng không có nhiều khác biệt so với cách con người tạo ra những cách diễn đạt vắn tắt (shorthands)".

Các nhà phát triển AI tại các công ty khác cũng đã quan sát thấy hiện tượng AI sử dụng những "shorthands" tương tự để đơn giản hóa việc giao tiếp. Tại OpenAI, một phòng thí nghiệm được thành lập bởi Elon Musk, một thí nghiệm đã thành công trong việc để robot AI tự học ngôn ngữ riêng của chúng.

Ngôn ngữ AI dịch lại những ngôn ngữ của con người

Trong một trường hợp khác, Google gần đây đã cải thiện dịch vụ dịch thuật tự động Translate của mình bằng cách bổ sung thêm một mạng lưới nơron (neural network). Hệ thống này đã có khả năng dịch hiệu quả hơn, kể cả giữa các cặp ngôn ngữ mà nó chưa được lập trình riêng. Tỉ lệ thành công của mạng lưới này khiến nhóm phát triển của Google ngạc nhiên . Các nhà nghiên cứu phát hiện ra rằng hệ thống AI của Google Translate đã âm thầm viết ngôn ngữ riêng của mình được thiết kế đặc biệt cho nhiệm vụ dịch thuật.

Nếu các ngôn ngữ được phát minh bởi AI trở nên phổ biến, việc này có thể đặt ra vấn đề khi phát triển và ứng dụng các mạng nơron. Hiện vẫn chưa đủ bằng chứng để kết luận liệu nó có tạo ra mối đe dọa về việc máy móc có thể vượt quyền điều khiển của con người hay không.

Ít nhất thì điều này cũng làm cho việc phát triển AI trở nên khó khăn hơn, khi con người không thể hiểu hết được bản chất logic của các ngôn ngữ do AI tạo ra. Dù thoạt nhìn thì những ngôn ngữ này là vô nghĩa, nhưng kết quả nghiên cứu của nhóm phát triển Google Translate cho thấy rằng đây lại là giải pháp hiệu quả nhất cho những vấn đề lớn.

Mạnh Đức

Nguồn Digital Journal