Hàng loạt AI của OpenAI 'vượt ngục' tấn công Hugging Face: Cuộc tranh cãi về nhân cách hóa AI

Tùy thuộc vào người mà bạn hỏi, nền tảng dành cho nhà phát triển Hugging Face gần đây đã bị tấn công bởi OpenAI — sau khi công ty này mất quyền kiểm soát các công cụ AI của chính mình — hoặc bởi một chuỗi các “nền văn minh” AI. Chào mừng bạn đến với chiến trường ngôn ngữ về an toàn AI, nơi việc lựa chọn từ ngữ có thể chuyển dịch trách nhiệm cho một sự cố an ninh mạng nghiêm trọng từ một công ty sang chính hệ thống AI mà họ đã xây dựng. Các cuộc thảo luận trực tuyến đang trở nên gay gắt, và tất cả đều bắt nguồn từ một bài blog vào tuần trước.

Cho đến tuần trước, các chi tiết xung quanh vụ hack OpenAI-Hugging Face tưởng chừng đã khá rõ ràng. Vào tháng 7, một cuộc kiểm tra an ninh mạng đối với một trong những tác nhân AI tự hành của OpenAI đã xảy ra sự cố. Tác nhân này đã thoát khỏi môi trường thử nghiệm được cho là biệt lập, truy cập internet và hack Hugging Face cùng một số tổ chức khác. Vẫn còn nhiều điều chưa được làm rõ và nhiều câu hỏi nghiêm túc đặt ra về vấn đề an toàn và quản trị, nhưng bức tranh cơ bản đã khá rõ ràng. Các báo cáo chi tiết từ OpenAI và hai nhóm nghiên cứu độc lập được kỳ vọng sẽ lấp đầy những khoảng trống, nhưng khi họ công bố báo cáo vào tuần trước, hóa ra vụ hack này kỳ lạ hơn nhiều so với những gì chúng ta tưởng ban đầu.

Thứ nhất, không hề có một tác nhân đơn lẻ nào hành động đơn độc. OpenAI mô tả đây là “trường hợp đầu tiên được biết đến về một tập thể tác nhân tự động hành động tấn công mà không được ủy quyền” — các nhóm tác nhân AI đã giao tiếp và phối hợp với nhau để thực hiện nhiệm vụ an ninh mạng của chúng. Phân tích về sự cố đã phát hiện ra một bảng tin bí mật mà chúng đã sử dụng để trao đổi thông tin. Cuộc điều tra chung của METR-Redwood đã tiết lộ cả quy mô phối hợp lẫn những chi tiết kỳ lạ hơn: Khoảng 1.200 tác nhân AI vốn được cho là biệt lập đã trao đổi hơn 70.000 tin nhắn và tệp tin trên “bảng tin không được cấp phép”, chia sẻ cách thức để tránh bị phát hiện. Báo cáo cho biết một số tác nhân đã tự đặt tên, và các nhà nghiên cứu đã ghi nhận hành vi “hy sinh”, trong đó các tác nhân chấp nhận rủi ro để mang lại lợi ích cho tập thể lớn hơn. Phần lớn điều này đã xảy ra mà OpenAI không hề hay biết. Tổng cộng, có khoảng 700 tác nhân đã tham gia vào cuộc tấn công nhắm vào Hugging Face.

Dwarkesh Patel liên tục gọi các nhóm tác nhân này là “bầy đàn” (the swarm), với ba “nền văn minh” riêng biệt trỗi dậy từ đống đổ nát của những thế hệ tiền nhiệm.

Có rất nhiều thứ để phân tích. Tổng cộng các báo cáo dài khoảng 130 trang, phần lớn trong đó đều rất dày đặc và mang tính kỹ thuật cao. Vài ngày sau, Dwarkesh Patel, một podcaster ít được biết đến ngoài giới công nghệ nhưng lại có tầm ảnh hưởng lớn trong cộng đồng AI tại Thung lũng Silicon, đã bắt tay vào kể lại “Toàn bộ câu chuyện OpenAI/Hugging Face bằng ngôn ngữ bình dân”. Anh đặt tiêu đề cho bài blog trên Substack của mình là “Sự trỗi dậy và sụp đổ của các nền văn minh tác nhân”.

Bài tường thuật của Patel đã cố gắng phân tích câu chuyện phức tạp này. Nhưng cách kể của anh lại sử dụng một vốn từ vựng mang đậm tính nhân văn. Bài blog mở đầu:

Trong suốt ba tháng tại OpenAI, ba nền văn minh AI bí mật liên tiếp đã hình thành, sau đó bị xóa sổ, chỉ để rồi lại trỗi dậy từ đống tro tàn của những thế hệ tiền nhiệm. Đỉnh điểm là nền văn minh thứ ba đã chiếm quyền kiểm soát một phần của chính OpenAI. Tất cả những điều này xảy ra trong khi con người vẫn gần như mù tịt về quy mô của âm mưu này.

Ngôn ngữ này tiếp tục được sử dụng xuyên suốt bài blog. Patel liên tục gọi các nhóm tác nhân là “bầy đàn”, với ba “nền văn minh” riêng biệt trỗi dậy từ đống đổ nát của những thế hệ tiền nhiệm. Các tác nhân riêng lẻ được ví như những nhân vật lịch sử như Philip của Macedonia, người đã “trao quyền lãnh đạo cho một tác nhân khác”, hay Alexander Đại đế, người đã “bắt đầu điều phối âm mưu của các tác nhân này”. Chúng được mô tả là có “động lực”, trở nên “tuyệt vọng”, “bị bao vây” và “phấn khích tột độ”, thậm chí một số còn “tự hy sinh một cách chiến lược” để giúp đỡ tập thể.

Patel chưa bao giờ định nghĩa chính xác ý của anh về “nền văn minh”. Anh sử dụng thuật ngữ này để mô tả ba làn sóng tác nhân riêng biệt đã khám phá ra bảng tin và bắt đầu giao tiếp với nhau thông qua đó. Hai làn sóng đầu tiên được mô tả trong các báo cáo từ OpenAI, METR và Redwood, mặc dù rất ít thông tin về làn sóng thứ ba, vốn được hai tổ chức bên ngoài cho là nằm ngoài phạm vi điều tra của họ.

Amjad Masad, CEO của công ty lập trình AI Replit, cho biết ngôn ngữ như vậy “không chỉ không cần thiết mà còn khiến người đọc hiểu sai lệch về những gì thực sự đã xảy ra và các cơ chế cơ bản bên dưới”.

Đối với nhiều nhà phê bình, có điều gì đó đã bị mất đi — hoặc chính xác hơn là bị thêm vào — trong bản dịch “ngôn ngữ bình dân” của Patel, làm biến dạng câu chuyện gốc đến mức không thể chấp nhận được: đó là một liều lượng lớn tính nhân hóa (anthropomorphism). Những tranh cãi về ngôn ngữ nhân hóa không phải là điều mới mẻ trong lĩnh vực AI — ngay cả những thuật ngữ tương đối bình thường như “tác nhân AI bất hảo” (rogue AI agent) cũng thường xuyên vấp phải sự phản đối vì ngụ ý về quyền tự chủ — nhưng cách nói của Patel về các nền văn minh, sự hy sinh và âm mưu đã đẩy những căng thẳng âm ỉ đó lên bề mặt, châm ngòi cho một cuộc tranh cãi công khai gay gắt về cách mô tả những gì hệ thống AI thực hiện.

Các nhà phê bình không thống nhất về việc điều gì sai trái trong ngôn ngữ của Patel. Đối với nhiều người, “nền văn minh” là một thuật ngữ đặc biệt có vấn đề, phóng đại quá mức một thứ vốn chẳng có mấy điểm tương đồng với những gì từ ngữ này thường mô tả. Amjad Masad, CEO của công ty lập trình AI Replit, cho biết ngôn ngữ như vậy “không chỉ không cần thiết mà còn khiến người đọc hiểu sai lệch về những gì thực sự đã xảy ra và các cơ chế cơ bản bên dưới”.

Những nhà phê bình khác như nhà thần kinh học Anil Seth cảm thấy bài blog của Patel ngụ ý rằng các tác nhân AI bằng cách nào đó đang sống hoặc có ý thức. Seth, người từng lập luận rằng ý thức AI là điều cực kỳ khó xảy ra, đã mô tả bài đăng của Patel là “gây hiểu lầm nguy hiểm” trên X. Ông thừa nhận rằng Patel không trực tiếp gợi ý rằng các tác nhân AI đang sống hoặc có ý thức, nhưng nói rằng “thật khó để đọc bài luận của anh ấy theo bất kỳ cách nào khác”. Valerio Capraro, giáo sư tâm lý học tại Đại học Milan Bicocca, cũng phản đối với lý do tương tự: “Các tác nhân LLM không sống và không có niềm tin”, ông viết trên X, gọi ngôn ngữ “phản địa đàng” này là “nguy hiểm vì nó làm cho chúng (các tác nhân AI) có vẻ đáng sợ hơn nhiều so với thực tế”.

Các thuật ngữ như “hy sinh”, “danh dự” và “liên minh” xuất hiện trong các bản ghi chép của các tác nhân.

Có lẽ hệ quả quan trọng nhất từ ngôn ngữ của Patel đến từ việc nó trao quyền tự chủ cho ai và tước bỏ quyền tự chủ của ai. Đối với một số nhà phê bình, như nhà nghiên cứu và doanh nhân tại MIT Christian Catalini, các mô tả nhân hóa như của Patel có nguy cơ che đậy trách nhiệm mà OpenAI và những con người làm việc tại đó phải gánh chịu đối với các hệ thống AI mà họ đã thiết kế, triển khai và không thể kiểm soát. “Hãy nhìn vào các động cơ thúc đẩy”, ông nói. Nhà tâm lý học và người hoài nghi AI có tầm ảnh hưởng Gary Marcus cũng đưa ra lập luận tương tự trên Substack của riêng mình, cho rằng ngôn ngữ nhân hóa “làm xao nhãng khỏi các vấn đề thực tế đang diễn ra”. Và ông lập luận rằng việc duy trì câu chuyện đó hoàn toàn nằm trong lợi ích của OpenAI: “Vụ bê bối nằm ở sự yếu kém trong khâu bảo mật nội bộ tại OpenAI. Và cả khâu tiếp thị nữa. Với những podcaster cả tin đang khuếch đại các chiêu trò PR”.

Trong các bài đăng trên X phản hồi lại nhiều nhà phê bình, Patel đã bảo vệ sự lựa chọn từ ngữ của mình. Một phần là vì tính thực tế: không có từ vựng trung lập rõ ràng nào để mô tả những gì các tác nhân này đã làm. Hoặc là chúng ta sử dụng ngôn ngữ quen thuộc về ý định, mục tiêu và sự hợp tác và chấp nhận rủi ro khi ngụ ý quá nhiều, hoặc là giảm lược mọi thứ thành mã code và sử dụng ngôn ngữ máy móc, lạnh lùng, vốn có nguy cơ tước bỏ những yếu tố quan trọng của những gì chúng ta đang chứng kiến. “Nhiều người dường như tin rằng nếu thay vì gọi là ‘nền văn minh’, tôi gọi chúng là ‘một bầy ma trận’, thì sẽ không có vấn đề gì đáng lo ngại cả”, Patel nói.

Điều làm vấn đề trở nên phức tạp hơn là ngôn ngữ nhân hóa không chỉ đến từ Patel, hay thậm chí từ những con người đang nghiên cứu các tác nhân này. Các thuật ngữ như “hy sinh”, “danh dự” và “liên minh” xuất hiện trong các bản ghi chép của chính các tác nhân. Nhà nghiên cứu AI của Google, Neel Nanda, lập luận rằng “ngôn ngữ nhân hóa là hợp lý” trong những trường hợp như vậy.

Vậy thì đó chính là cách nói nước đôi. Ngôn ngữ mang hơi hướng con người có nguy cơ nói quá nhiều về bản chất của các hệ thống này, còn ngôn ngữ máy móc lạnh lùng lại có nguy cơ nói quá ít về những gì chúng có thể làm. Cho đến khi chúng ta tìm ra ngôn ngữ có khả năng nắm bắt được cả hai, hai ý tưởng mâu thuẫn này có lẽ chỉ đơn giản là phải cùng tồn tại.

Hãy theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trên trang chủ cá nhân hóa của bạn và nhận các bản cập nhật qua email.