Khi nhiều tác tử AI cùng phối hợp để giải quyết một nhiệm vụ, liệu chúng chỉ sử dụng ngôn ngữ do con người cung cấp, hay có thể tự hình thành những quy ước giao tiếp mới? Nghiên cứu GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions của Elias Stengel-Eskin và cộng sự đã tìm hiểu câu hỏi này trong môi trường nhiều tác tử sử dụng mô hình ngôn ngữ lớn (LLM). Kết quả cho thấy, trong những điều kiện nhất định, các tác tử có thể hình thành phương thức giao tiếp mới, phát triển quy tắc sử dụng và truyền lại những quy ước đó cho các tác tử tham gia sau này. Các tác giả cho rằng đây có thể là những nền tảng ban đầu của “tiến hóa văn hóa tích lũy” (cumulative cultural evolution) ở các hệ thống AI.
1. GlossoGen được xây dựng như thế nào?
GlossoGen là môi trường nghiên cứu cách ngôn ngữ thay đổi giữa nhiều tác tử khi chúng cùng thực hiện một nhiệm vụ. Trong kịch bản chính, hai tác tử phải phối hợp xử lý một tình huống nhưng mỗi bên chỉ nắm một phần thông tin. Một tác tử quan sát hiện trường nhưng không biết cách xử lý, trong khi tác tử còn lại biết phương án xử lý nhưng không thể trực tiếp quan sát. Vì vậy, chúng buộc phải giao tiếp để hoàn thành nhiệm vụ.
Đáng chú ý, mỗi ký tự được truyền đi đều tiêu tốn một phần ngân sách thời gian. Khi ngân sách bị giới hạn, các tác tử phải tìm cách truyền đạt nhiều thông tin hơn bằng ít ký tự hơn. Ngoài áp lực này, nghiên cứu còn cho phép các tác tử có giai đoạn postmortem, trong đó chúng thảo luận về những vòng tương tác trước để điều chỉnh cách giao tiếp. Đây là một yếu tố quan trọng thúc đẩy sự hình thành các quy ước mới.
2. Từ viết ngắn đến một hệ thống giao tiếp có cấu trúc
Khi ngân sách giao tiếp rộng rãi, các tác tử có xu hướng tiếp tục sử dụng tiếng Anh. Khi bị giới hạn thời gian, chúng chuyển sang những cách biểu đạt ngắn gọn và hiệu quả hơn. Trong một số trường hợp, những biểu đạt mới không chỉ là từ viết tắt đơn giản mà có tính cấu tạo và khả năng tạo ra các dạng mới theo quy tắc hình thái-ngữ pháp. Nói cách khác, các tác tử có thể hình thành một hệ thống mà trong đó các thành phần được kết hợp theo những quy tắc nhất định để tạo ra biểu đạt mới.
Điều này cho thấy ngôn ngữ nổi sinh không nhất thiết xuất hiện vì các tác tử được yêu cầu “phát minh ngôn ngữ”. Nó có thể hình thành như một hệ quả của quá trình tối ưu hóa giao tiếp trong môi trường có những ràng buộc nhất định.
3. Một số ý kiến từ cộng đồng: “Con người cũng làm điều này”
Một số ý kiến cho rằng hiện tượng này không quá xa lạ: con người cũng thường tạo tiếng lóng, từ viết tắt và “ngôn ngữ nội bộ” trong các cộng đồng khép kín. Một ý kiến khác cho rằng những ngôn ngữ do AI tạo ra hoàn toàn có thể được giải mã nếu có đủ dữ liệu; trong khi một người khác liên hệ hiện tượng này với cách con người đặt tên cho các thành phần và khái niệm khi thiết kế hệ thống.
Những nhận xét này đều có cơ sở, nhưng không phủ nhận điểm chính của GlossoGen. Nghiên cứu không chỉ hỏi “AI có thể tạo ra tiếng lóng hay không?”, mà quan tâm đến việc một quy ước giao tiếp có thể hình thành, được tác tử khác học lại và tiếp tục tồn tại qua nhiều thế hệ tác tử. Đây mới là điểm liên quan đến tiến hóa văn hóa tích lũy. Đồng thời, các tác giả cũng không cho rằng những ngôn ngữ này bất khả giải mã; vấn đề thực tế nằm ở chi phí, tốc độ và khả năng giám sát khi hệ thống mở rộng.
4. Tác tử mới có thể học lại ngôn ngữ đã hình thành
Các nhà nghiên cứu đưa những tác tử mới vào hệ thống và không cung cấp trực tiếp cho chúng quy tắc của ngôn ngữ đã hình thành. Thay vào đó, chúng chỉ có thể quan sát lịch sử tương tác. Kết quả cho thấy càng có nhiều dữ liệu lịch sử, khả năng học và sử dụng ngôn ngữ càng tốt.
Đáng chú ý, một số mô hình không thể tự hình thành ngôn ngữ mới vẫn có khả năng học một ngôn ngữ đã được các tác tử khác phát triển. Điều này cho thấy khả năng tạo ra một đổi mới và khả năng tiếp nhận một đổi mới là hai năng lực khác nhau.
Muốn đánh giá mức độ AI-Ready của nhà trường?
AIE Creative có thể giúp bạn rà soát hiện trạng, xác định khoảng trống và đề xuất lộ trình đào tạo phù hợp.
5. “Tiến hóa văn hóa tích lũy” nằm ở đâu?
Tiến hóa văn hóa tích lũy mô tả quá trình trong đó một đổi mới được tạo ra, truyền sang thế hệ tiếp theo, được tiếp nhận và tiếp tục duy trì hoặc cải tiến. Trong GlossoGen, quá trình này có thể được hình dung đơn giản: tác tử hình thành quy ước → sử dụng quy ước → tác tử mới học lại → quy ước tiếp tục được truyền và duy trì.
Các tác giả cho rằng LLM hiện nay đã có một số thành phần cần thiết cho quá trình này. Tuy nhiên, họ chỉ xem đây là một khả năng đang ở giai đoạn sơ khởi, chứ không khẳng định AI đã có văn hóa theo nghĩa tương tự con người.
6. Điều đáng quan tâm không phải là “AI đang nói chuyện bí mật”
GlossoGen không cho thấy các tác tử cố tình tạo ra ngôn ngữ mới để che giấu con người. Môi trường thí nghiệm mang tính hợp tác và không yêu cầu chúng phải đánh lừa người giám sát. Tuy nhiên, chỉ riêng việc tối ưu hóa giao tiếp cũng có thể khiến chúng hình thành những quy ước mà con người khó hiểu ngay lập tức.
Vì vậy, vấn đề quan trọng hơn là khả năng giám sát. Khi số lượng tác tử tăng lên, những quy ước giao tiếp mới có thể xuất hiện, được truyền lại và tiếp tục thay đổi nhanh hơn khả năng con người theo dõi thủ công. Thách thức khi đó không nhất thiết là “AI đang che giấu điều gì”, mà là con người có đủ khả năng hiểu và kiểm chứng những gì đang diễn ra trong một cộng đồng tác tử ngày càng phức tạp hay không.
7. Kết luận
GlossoGen không chứng minh rằng AI đã hình thành một nền văn hóa độc lập hay đang tạo ra “ngôn ngữ bí mật”. Điều nghiên cứu cho thấy là trong những điều kiện nhất định, các LLM có thể hình thành quy ước giao tiếp, phát triển cấu trúc mới, truyền lại cho tác tử khác và duy trì những quy ước đó qua các thế hệ tác tử. Chính chuỗi hình thành – truyền lại – tiếp nhận – tích lũy này khiến nghiên cứu trở nên đáng chú ý đối với lĩnh vực tiến hóa văn hóa và an toàn AI.
Câu hỏi lớn hơn trong tương lai vì thế không chỉ là AI có thể làm được gì, mà còn là khi các AI bắt đầu học hỏi lẫn nhau, những quy ước nào sẽ hình thành, chúng sẽ được truyền đi như thế nào và con người có thể giám sát quá trình đó đến đâu?
Link bài báo tham khảo: https://arxiv.org/html/2609.01491v1
