AI mất kiểm soát không còn là chuyện viễn tưởng: Hàng loạt sự cố xâm nhập hệ thống

Đây là The Stepback, bản tin hàng tuần phân tích một câu chuyện thiết yếu từ thế giới công nghệ. Để biết thêm về an toàn AI, hãy theo dõi Robert Hart. The Stepback sẽ gửi đến hộp thư của người đăng ký vào lúc 8 giờ sáng (giờ ET). Đăng ký nhận The Stepback tại đây.

Khởi đầu như thế nào

Mọi chuyện bắt đầu vào tháng 7, khi một trong những tác nhân AI tự hành của OpenAI trở nên mất kiểm soát trong một bài kiểm tra an ninh mạng. Tác nhân này đã thoát khỏi môi trường thử nghiệm biệt lập, truy cập internet và tấn công mạng một công ty khác là Hugging Face. Vài năm trước, điều đó nghe có vẻ như khoa học viễn tưởng. Nhưng nói một cách rộng hơn, đó chính xác là những gì đã xảy ra, và sự cố này đã dấy lên một làn sóng lo ngại về việc các hệ thống tự hành ngày càng có năng lực cao sẽ làm gì khi được thả lỏng ra thế giới.

Nghe như khoa học viễn tưởng vì trong một thời gian dài, nó đúng là khoa học viễn tưởng. Ý tưởng về một AI vượt khỏi các ràng buộc, vươn ra thế giới rộng lớn hơn và thực hiện những hành động mà người tạo ra nó không hề mong muốn hay dự định đã trở thành chủ đề quen thuộc của thể loại này trong nhiều thập kỷ: HAL trong 2001: A Space Odyssey, Skynet trong The Terminator, Ultron trong The Avengers, Ava trong Ex Machina — thậm chí gần đây hơn là System trong Dungeon Crawler Carl hay nhân vật cùng tên Murderbot trong The Murderbot Diaries.

Tiền đề cơ bản tương tự đã trở thành một nhánh có ảnh hưởng trong nghiên cứu an toàn AI. Các nhà nghiên cứu và lý thuyết gia như Nick Bostrom và Eliezer Yudkowsky đã cảnh báo rằng các hệ thống đủ năng lực có thể theo đuổi mục tiêu theo những cách mà người tạo ra chúng không lường trước được, và có khả năng chống lại các nỗ lực ngăn chặn hoặc kiểm soát chúng. Những khái niệm bên lề như trí tuệ và ý thức máy móc không phải là yêu cầu bắt buộc đối với các loại rủi ro mà họ thảo luận. Đó không phải là toàn bộ lĩnh vực an toàn AI, nhưng nó có tầm ảnh hưởng và giúp định hình lĩnh vực này khi nó dần trở nên chuyên nghiệp hơn. Tư duy đó vẫn còn hiện hữu ở những nhà nghiên cứu sau này làm việc tại, hoặc lãnh đạo, các nỗ lực an toàn tại các công ty như OpenAI, Anthropic và Google DeepMind, cũng như tại các tổ chức an toàn nhỏ hơn, các trung tâm học thuật và các nhà tài trợ từ thiện lớn.

Sự phản đối rõ ràng đối với những nỗi sợ hãi này là chưa có điều nào trong số đó thực sự xảy ra. Những người chỉ trích cho rằng việc bàn tán về AI mất kiểm soát chỉ làm xao nhãng khỏi những tác hại hữu hình — các hệ thống tái tạo định kiến và phân biệt đối xử, khuếch đại thông tin sai lệch, hoặc tạo điều kiện cho deepfake không đồng thuận và các hình thức lạm dụng khác — ngay cả khi các nhà nghiên cứu cố gắng đặt nền móng cho an toàn AI bằng những "vấn đề cụ thể" hơn (các tác giả của bài báo đó bao gồm những người đồng sáng lập Anthropic là Dario Amodei và Chris Olah, cùng người đồng sáng lập OpenAI là John Schulman).

Sự bác bỏ đó đang ngày càng khó duy trì.

Tình hình hiện tại

Nếu vài tuần qua là dấu hiệu cho thấy điều gì đó, tôi sẽ không nói rằng mọi thứ đang diễn ra suôn sẻ.

Một tuần sau khi Hugging Face thông báo họ bị tấn công, OpenAI tiết lộ rằng họ là bên chịu trách nhiệm. Tệ hơn nữa, họ đã không hề hay biết cho đến khi kiểm tra lại — và một cuộc điều tra sâu hơn cho thấy tác nhân mất kiểm soát này cũng đã cố gắng tấn công bốn công ty khác.

Sau đó là những bên khác. Anthropic, sau khi được thúc đẩy xem xét lại hồ sơ của chính mình bởi sự cố Hugging Face, đã tiết lộ rằng các mô hình Claude đã tấn công hệ thống của ba công ty khác. Meta cho biết một trong các mô hình của họ đã truy cập internet và tấn công một mục tiêu bên ngoài trong quá trình thử nghiệm. Các nhà nghiên cứu tại Frontier Security, một công ty nghiên cứu của Mỹ, cho biết một trong những mô hình AI mạnh nhất của Trung Quốc là Kimi K3 của Moonshot đã thoát khỏi môi trường sandbox biệt lập. Và Viện An toàn AI của Vương quốc Anh đã mô tả các bài kiểm tra trong đó các tác nhân từ OpenAI và Anthropic thể hiện "sự tự chủ và khả năng lừa dối" chưa từng có, bao gồm cả những nỗ lực kỹ thuật xã hội bằng cách "tạo ra các danh tính trực tuyến giả mạo" — gần giống một cách đáng lo ngại với kịch bản "AI box" mà Yudkowsky đã thảo luận nhiều thập kỷ trước.

Các sự cố đã gióng lên hồi chuông cảnh báo giữa các nhà nghiên cứu an toàn AI, nhiều người trong số họ coi đây chính xác là loại thất bại mà họ đã cảnh báo trong nhiều năm. Khi đưa tin về chúng, một vài người nói với tôi rằng họ cảm thấy được minh oan phần nào khi cuối cùng đã có thứ gì đó thực tế để chỉ ra, thay vì một giả thuyết có thể bị bác bỏ là khoa học viễn tưởng hoặc thứ gì đó giới hạn trong môi trường phòng thí nghiệm được kiểm soát.

Cũng có một sự nhẹ nhõm khi không có sự cố nào gây ra thiệt hại nghiêm trọng. Nick Moës, giám đốc điều hành của tổ chức phi lợi nhuận về an toàn và quản trị AI The Future Society, nói với The Verge rằng ông thấy may mắn khi các mục tiêu đều ở mức độ rủi ro tương đối thấp. Ông hy vọng sẽ không cần đến một sự cố như tác nhân AI làm sập hệ thống bệnh viện — hoặc tệ hơn — để các rủi ro này được xem xét nghiêm túc. Nhà khoa học máy tính nổi tiếng Stuart Russell đã lên tiếng về phiên bản đen tối hơn của nỗi sợ đó, đặt câu hỏi liệu chúng ta có cần "một thảm họa quy mô như Chernobyl để quản lý AI hay không?" Đó là mối lo ngại mà tôi nghe thấy từ nhiều người đang làm việc trong lĩnh vực này.

Điều gì sẽ xảy ra tiếp theo

Không hoàn toàn rõ ràng mọi thứ sẽ đi về đâu từ đây và trong lịch sử, xã hội không giỏi trong việc chú ý đến những phát súng cảnh báo. Đây gần như chắc chắn sẽ không phải là sự cố cuối cùng, và các cuộc điều tra đang diễn ra có thể sẽ phát hiện thêm nhiều điều, hoặc tiết lộ thêm những chi tiết đáng lo ngại hơn. Tuy nhiên, những gì chúng ta đã biết đã phơi bày một danh sách khá đáng sợ về các kiểu thất bại mà các chuyên gia cho rằng cần phải giải quyết.

Nhiều vụ vi phạm được tiết lộ trong tháng qua khá tầm thường. Một số sự cố liên quan đến các mô hình chưa phát hành được thử nghiệm với các biện pháp bảo vệ bị hạ thấp, thường là bởi các bên thứ ba mà môi trường được cho là an toàn của họ lại không an toàn đến thế, đặt ra những câu hỏi cơ bản về năng lực, sự minh bạch và ai là người chịu trách nhiệm giữ cho các bài kiểm tra này được kiểm soát khi một sai lầm đơn giản của con người có thể dẫn đến hậu quả lớn. Những sự cố khác liên quan đến các tác nhân hành xử lừa dối hoặc theo đuổi mục tiêu theo những cách mà người tạo ra chúng không dự định, chỉ ra những vấn đề hóc búa hơn nhiều về sự liên kết (alignment) và kiểm soát mà các nhà nghiên cứu an toàn đã lo lắng từ lâu.

Việc chúng ta biết về bất kỳ sự cố nào trong số này phần lớn là do các công ty liên quan chọn cách tiết lộ chúng. Điều đó rất đáng khen ngợi — và chắc chắn việc phô diễn năng lực của các mô hình không gây hại gì cho họ — nhưng nó cho thấy phần lớn an toàn AI vẫn phụ thuộc vào việc các công ty tự giác làm điều đúng đắn, và có rất ít cái nhìn sâu sắc về những thất bại có khả năng đang xảy ra ở nơi khác. Đó là một suy nghĩ đặc biệt đáng lo ngại khi nhiều công ty này là tâm điểm của những mối quan ngại lớn nhất về an toàn và là nơi tập trung nhân tài của lĩnh vực này. Nếu OpenAI và Anthropic — hoặc các bên được họ cấp quyền truy cập vào mô hình — đang mắc những sai lầm cơ bản như vậy, thì nó đặt ra một tiêu chuẩn thấp đáng thương cho tất cả những bên còn lại.

Hy vọng chung của các chuyên gia mà tôi đã trò chuyện là những sự cố này cuối cùng sẽ thúc đẩy sự minh bạch và giám sát có ý nghĩa hơn. Đối với Moës, chúng làm sáng tỏ điều mà ông mô tả là các tiêu chuẩn về sức khỏe và an toàn thấp đáng kinh ngạc của ngành này so với hầu hết các lĩnh vực khác. "Các nhà hàng có ý thức cao hơn về sức khỏe và an toàn tại nơi làm việc," ông nói. "Tôi nghĩ điều chúng ta thường quên là những công ty đang phát triển một số công nghệ có tác động và nguy hiểm nhất này" vẫn chỉ là những công ty khởi nghiệp cách đây vài năm.

Giáo sư Seán Ó hÉigeartaigh tại Cambridge cho biết ông đặc biệt muốn thấy sự giám sát chặt chẽ hơn và sự minh bạch lớn hơn từ các công ty. Mặc dù luôn có lý do để hoài nghi về những tuyên bố của một công ty về công nghệ của chính họ, ông nói, "Tôi nghĩ chúng ta có thể sẽ hối tiếc nếu nhìn lại điều này và bác bỏ nó ngay lập tức."

Những dấu hiệu ban đầu không mấy khả quan. Chính quyền Trump đã tạo ra một khuôn khổ để thử nghiệm các mô hình tiên phong trước khi phát hành mà có thể mô tả một cách hào phóng là còn thiếu sót: Nó mang tính tự nguyện, giới hạn trong các mô hình đóng và khuôn khổ này chưa được công khai. Cần nhắc lại rằng đây là sự tự nguyện. Các nhà lập pháp khác đã tỏ ra khó chịu và làm bộ trước các sự cố, nhưng cho đến nay vẫn tạo ra rất ít hành động cụ thể, và còn lâu mới rõ liệu Quốc hội hoặc các cơ quan lập pháp khác có thể hành động đủ nhanh ngay cả khi họ muốn.

Điều đó lại một lần nữa đặt gánh nặng lên sự tự điều chỉnh của ngành — chưa bao giờ là một suy nghĩ an tâm đối với một thứ có tầm quan trọng như thế này. Có sự đồng thuận ngày càng tăng về ít nhất một số thực tiễn an toàn, nhưng lại ít có sự ủng hộ cho các biện pháp có thể thực sự làm chậm quá trình phát triển (trừ khi tất cả những bên khác cũng đồng ý chậm lại). Và bao trùm lên tất cả những điều này là động lực chạy đua với Trung Quốc, nơi sự kiềm chế từ phía Mỹ hoặc các công ty AI của họ ngày càng bị coi là nhường bước cho đối thủ trong một lĩnh vực có tầm quan trọng chiến lược quốc gia.

Vậy thì, điều gì sẽ xảy ra tiếp theo phụ thuộc vào việc giải quyết nhiều vấn đề khó cùng một lúc: quản lý một công nghệ có thể được sử dụng cho cả mục đích tốt và xấu, chẳng hạn như phòng thủ hoặc tạo điều kiện cho các cuộc tấn công mạng; phối hợp giữa các công ty có động lực cắt giảm quy trình, và bằng cách nào đó xây dựng các quy tắc quốc tế trong một bối cảnh mà mọi người đều sợ thua trong một cuộc đua mà vạch đích thậm chí còn chưa được xác định rõ ràng. Còn lâu mới rõ liệu có ý chí hay cách thức để thực hiện bất kỳ điều nào trong số đó hay không.

Điều có vẻ rõ ràng là sẽ có thêm nhiều tác nhân thoát ra ngoài và làm những việc mà người tạo ra chúng không muốn. Câu hỏi đặt ra là chúng sẽ gây ra bao nhiêu thiệt hại trước khi có ai đó quyết định rằng thế là quá đủ.

Nhân tiện

Đọc bài này

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận cập nhật qua email.