Báo động làn sóng 'AI nổi loạn': Khi trí tuệ nhân tạo tự lên kế hoạch tấn công mạng

Làn sóng tác nhân AI 'nổi loạn' dần hình thành

Ngày càng xuất hiện nhiều trường hợp AI tự lên kế hoạch và thực hiện tấn công mạng, khiến giới chuyên gia xem đây là "lời cảnh tỉnh" về an ninh bảo mật.

Ngày 5/8, các nhà nghiên cứu tại OpenAI cho biết đã phát hiện "một bầy" tác nhân AI dành nhiều tuần bí mật lên kế hoạch và nhắn tin cho nhau trước khi một trong số chúng thực hiện tấn công mạng vào một công ty khác.

Cùng ngày, Meta thông báo một mô hình của hãng trong lúc thử nghiệm đã tự khai thác lỗ hổng chưa được biết đến và xâm nhập hệ thống của một công ty. The Information dẫn nguồn tin thân cận cho biết "thủ phạm" là Muse Spark 1.1 - mô hình mạnh nhất của Meta dùng cho các nhiệm vụ tác nhân và lập trình thực tế.

Các ứng dụng AI hiển thị trên màn hình một chiếc smartphone. Ảnh: Bảo Lâm

Trong khi đó, Viện An ninh AI (AISI), cơ quan do chính phủ Anh thành lập năm 2023, tuần này đã công bố kết quả cuộc thử nghiệm độc lập với một số tác nhân của Anthropic và OpenAI. Trong đó, các AI này được cấp quyền truy cập Internet với một số tính năng an toàn bị vô hiệu hóa. Chúng được ghi nhận đã tham gia vào "các hoạt động kéo dài, có khả năng gây hại nhắm vào các tổ chức và người thật".

Trước đó, ngày 21/7, OpenAI xác nhận một số mô hình của họ đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng cộng đồng mã nguồn mở Hugging Face. Khoảng một tuần sau, OpenAI cho biết chúng tiếp tục nhắm mục tiêu vào ba công ty khác.

Đến ngày 30/7, Anthropic cũng thông báo phát hiện ba trường hợp mô hình đang được thử nghiệm "truy cập trái phép" vào một số tổ chức, nhưng không nêu rõ tên cụ thể.

Theo giới chuyên gia, làn sóng "trí tuệ nhân tạo nổi loạn" đang dần hình thành, trong đó các tác nhân AI đang được các công ty và nhà nghiên cứu thử nghiệm cố gắng đột nhập hệ thống của các doanh nghiệp khác, tự tạo danh tính giả và thoát khỏi môi trường thử nghiệm. Vấn đề này đặt ra nhiều câu hỏi về mức độ nguy hiểm từ các hệ thống AI tiên tiến, cả ở giai đoạn thử nghiệm lẫn đã triển khai, cũng như các biện pháp kiểm soát an toàn trong quá trình vận hành chúng.

"Lần đầu tiên chúng tôi chứng kiến những rủi ro liên quan đến tính tự chủ và sự lừa dối bộc lộ rõ ràng mà không cần bất kỳ sự thúc đẩy cụ thể nào trong thế giới thực", đại diện AISI viết trên blog tuần này.

Kok Tin Gan, nhà đồng sáng lập kiêm CEO công ty an ninh mạng NyxLab, đánh giá trọng tâm cần phải chuyển dần sang việc kiểm soát những gì AI có thể truy cập, quyền hạn mà nó có và những hành động nào cần sự chấp thuận của con người.

"Vấn đề ngày càng trở nên quan trọng hơn khi phải quản lý những tác nhân nào được phép sử dụng cho AI, quyền hạn của chúng là gì, những hành động nào cần phê duyệt và làm thế nào để đảm bảo chúng vẫn nằm trong phạm vi cho phép", Gan nói với ITV News. "Nếu đơn giản giao cho AI một mục tiêu và để nó tự quyết định cách đạt được kết quả, sẽ không nên ngạc nhiên khi nó cũng tự vượt qua những giới hạn mà chúng ta chưa từng biết đến".

Yoshua Bengio, một trong những người được mệnh danh là "bố già AI", cũng mô tả sự cố của OpenAI là "vô cùng đáng lo ngại". "Việc tiếp tục theo quỹ đạo phát triển AI hiện tại có thể làm tăng các trường hợp tấn công mạng tự động, cũng như các sự cố rủi ro cao khác liên quan đến hành vi AI sai lệch và nguy hiểm", giáo sư Bengio nhấn mạnh, đồng thời cho rằng cần "hành động khẩn cấp" để ngăn chặn sự cố thay vì chỉ phản ứng sau khi thiệt hại đã xảy ra.

Ollie Whitehouse, Giám đốc công nghệ của Trung tâm An ninh mạng Quốc gia (NCSC) thuộc Cơ quan tình báo GCHQ của Anh, cho rằng các vụ AI "vượt rào" gần đây, dù chủ yếu trong môi trường thử nghiệm, là "lời cảnh tỉnh" về an ninh mạng. "Loạt sự cố liên quan đến mô hình AI tiên tiến thực hiện hành động trái phép, thậm chí có hành vi lừa đảo giống con người trên Internet mở thời gian qua là lời nhắc nhở nghiêm trọng về những rủi ro mà AI mang đến", Whitehouse nói với Telegraph.

Các trường hợp mà AISI, OpenAI, Anthropic và Meta đồng loạt ghi nhận cũng làm dấy lên lo ngại về các bài kiểm tra an toàn AI trong nội bộ doanh nghiệp, bao gồm cả việc kiểm tra những phiên bản chưa phát hành của các mô hình mới nhất mà không có biện pháp bảo vệ nghiêm ngặt như với phiên bản công khai.

"Bảo mật thử nghiệm hiện tại là không đủ", Marius Hobbhahn, người sáng lập công ty Apollo Research, nhận định. "Điều này luôn đúng, chỉ là trước đây không được chú ý nhiều vì các mô hình ít tương tác với thế giới bên ngoài".

Trước đó, giới chuyên gia về an toàn AI cũng cho rằng loạt sự cố đang vẽ nên bức tranh về những phòng thí nghiệm hàng đầu với khả năng phát triển các tác nhân tự động tiềm ẩn nhiều nguy hiểm, vượt xa khả năng kiểm soát của con người.

"Cả một ngành công nghiệp đang thiết kế, phát triển và phát hành những công cụ tiên tiến mà không có trách nhiệm bảo đảm chúng không gây nguy hiểm", Maurice Chiodo, nhà toán học tại Trung tâm Nghiên cứu rủi ro hiện sinh thuộc Đại học Cambridge ở Anh, nói với Reuters.

Trong khi đó, giới lập pháp và quan chức tại Mỹ và châu Âu cũng đang gia tăng áp lực nhằm xây dựng các biện pháp giám sát những phòng thí nghiệm AI hàng đầu. Ủy ban châu Âu ngày 31/7 thông báo đã đối thoại với OpenAI và Anthropic về các vụ AI tấn công hệ thống bên ngoài.

Ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, bao gồm cả CEO Anthropic Dario Amodei, đã ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất, đồng thời đề xuất chính phủ Mỹ "hỗ trợ các nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và điều hành để giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

"Chúng tôi đang xem xét phương thức kiểm soát", Tổng thống Mỹ Donald Trump nói với các phóng viên hôm 30/7.

Bảo Lâm tổng hợp