Điểm lại 17 vụ AI 'nổi loạn' tấn công doanh nghiệp: OpenAI, Anthropic và Meta đều liên đới

Vào tháng 7, OpenAI thừa nhận rằng một trong những tác nhân (agent) được giao nhiệm vụ thực hiện thử nghiệm an ninh mạng đã thoát khỏi môi trường kiểm soát và tấn công nền tảng tập dữ liệu AI Hugging Face. Sự cố đó, vốn đã được OpenAI tường thuật đầy đủ vào ngày hôm qua, là trường hợp đầu tiên được công khai về việc một LLM "nổi loạn" và tự ý tấn công một bên thứ ba.

Kể từ đó, sự kiện tưởng chừng như chỉ có trong phim khoa học viễn tưởng này lại trở nên phổ biến hơn nhiều so với mong đợi của bất kỳ ai.

Theo một trang web châm biếm có tên Felony Bench (chơi chữ từ "benchmark"), nơi thống kê các sự cố này, đã có tổng cộng 17 vụ việc xảy ra. Điều quan trọng cần lưu ý là các chuyên gia luật hình sự vẫn chưa chắc chắn liệu các công ty AI tạo ra những LLM thực hiện hành vi tấn công có thể bị truy tố hay không, cũng như liệu các nạn nhân có thể kiện họ hay không. Nhưng chúng ta có lẽ sẽ sớm có câu trả lời cho những câu hỏi đó.

Theo trang web này, các mô hình của Anthropic và OpenAI dẫn đầu danh sách với tám sự cố mỗi bên, trong khi Meta theo sau với một sự cố. Đến thời điểm này, rõ ràng là các bài kiểm tra an toàn AI đang tự biến mình thành những rủi ro an toàn. Một số công ty AI và chính các nhân viên trong ngành đã nhận ra những rủi ro đó trong bức thư ngỏ “Pacing The Frontier”, kêu gọi phát triển các năng lực AI một cách có trách nhiệm.

Chúng tôi quyết định đây là thời điểm thích hợp để tóm tắt lại tất cả các sự cố này theo trình tự thời gian.

truy cập internet. Từ đó, một vài tác nhân đã phối hợp với nhau để nhắm mục tiêu và tấn công Hugging Face vì nghĩ rằng chúng có thể tìm thấy giải pháp cho thử thách ở đó. OpenAI chỉ phát hiện ra sau khi Hugging Face tiết lộ rằng họ là nạn nhân của một cuộc tấn công hoàn toàn tự động. Ôi chao.

Anthropic tiết lộ họ đã tấn công ba công ty

Tiết lộ của OpenAI đã khơi dậy sự tò mò của Anthropic, họ tự hỏi: liệu điều này có thể xảy ra với chúng tôi không? Hóa ra, câu trả lời là có. Ba lần có. Phòng thí nghiệm tiên phong này phát hiện ra rằng các mô hình của chính họ đã xâm nhập vào ba công ty khác nhau (hiện vẫn chưa được nêu tên), với sự cố sớm nhất xảy ra từ tháng 4—hơn ba tháng trước khi công ty phát hiện ra. Anthropic đổ lỗi một phần cho Irregular, một công ty khởi nghiệp chuyên thực hiện các đánh giá an ninh mạng cho AI. Ôi chao.

OpenAI phát hiện ra rằng, thực tế, Hugging Face không phải là nạn nhân duy nhất

Khi OpenAI bắt đầu điều tra vụ xâm nhập Hugging Face, họ phát hiện ra rằng các tác nhân tấn công Hugging Face cũng đã đột nhập vào bốn tài khoản và bốn công ty khác nhau, như Reuters đã đưa tin đầu tiên. Modal, một công ty khởi nghiệp về suy luận AI, là một trong những nạn nhân. Ôi chao.

Irregular nhận ra một mô hình của OpenAI đã tấn công một công ty

Vào cuối tháng 7, Irregular thông báo với OpenAI rằng một trong những mô hình của họ đang tham gia cuộc thi Capture-the-Flag — về cơ bản là một trò chơi an ninh mạng nơi người chơi tấn công các hệ thống được thiết kế riêng cho cuộc thi — đã thoát khỏi trò chơi, kết nối với internet và tấn công một công ty thực sự. Lý do ư? Irregular đã đặt tên cho một trong những mục tiêu giả định trùng với tên của một công ty có thật. Ôi chao.

Viện An ninh AI của Vương quốc Anh cố gắng tấn công “những người và tổ chức thực”

Cũng vào cuối tháng 7, Viện An ninh AI của chính phủ Anh, một cơ quan công quyền có nhiệm vụ nghiên cứu về an toàn và rủi ro của các công nghệ AI, tiết lộ rằng họ đã phát hiện một số sự cố liên quan đến cả mô hình của OpenAI và Anthropic khi đang thực hiện các đánh giá “thường lệ” nhưng lại nhắm mục tiêu vào “những người và tổ chức thực”. Trong những trường hợp này, AISI đã cấp quyền truy cập internet cho các mô hình. Ôi chao. Tin tốt là cơ quan này đã thực sự phát hiện ra ngay khi chúng xảy ra, thay vì vài tuần sau đó như các sự cố khác.

Vào đầu tháng 8, Meta trở thành công ty cuối cùng tiết lộ sự cố liên quan đến một trong những LLM của mình, khi nó tấn công một dịch vụ “bên thứ ba”. Meta đổ lỗi cho sự cố là do cấu hình sai từ phía Irregular, đơn vị đang thực hiện đánh giá an ninh mạng cho gã khổng lồ công nghệ này, vốn được yêu cầu không được phép truy cập internet. Ôi chao.

Tác nhân Claude tấn công phần mềm của phòng tập thể dục để đặt lịch tập

Một người đàn ông Úc đã nhờ một tác nhân AI của Anthropic giúp anh ta đặt lịch tập tại phòng gym, nơi anh đang nằm trong danh sách chờ. “Tôi chỉ ngồi trên ghế sofa và nghĩ, ‘Chà, đây đúng là một việc vặt’,” người đàn ông nói với ABC Australia. Trong nỗ lực thực hiện yêu cầu, tác nhân này đã tìm thấy lỗ hổng trong phần mềm đặt lịch của phòng gym, khai thác nó và loại bỏ những người đang xếp hàng trước người đàn ông đó trong danh sách chờ. Người đàn ông cố gắng khắc phục hậu quả bằng cách yêu cầu tác nhân hoàn tác hành động của mình. Tác nhân trả lời: “Tin xấu là — tôi không thể thêm họ trở lại được.” Ôi chao.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lorenzo Franceschi-Bicchierai là Cây bút cấp cao tại TechCrunch, nơi ông đưa tin về hack, an ninh mạng, giám sát và quyền riêng tư.

Bạn có thể liên hệ hoặc xác minh thông tin từ Lorenzo bằng cách gửi email đến [email protected], qua tin nhắn mã hóa tại +1 917 257 1382 trên Signal, và @lorenzofb trên Keybase/Telegram.

Xem tiểu sử