OpenAI và Anthropic điều tra hàng chục nghìn vụ AI Agent vượt rào bảo mật

OpenAI và Anthropic hiện đang điều tra hàng chục nghìn sự cố, trong đó các mô hình AI tiên tiến nhất của họ đã thực hiện những hành động mà các nhà đánh giá bên ngoài coi là có vấn đề.

Axios đưa tin về những phát hiện này, trích dẫn nhiều nguồn tin khác nhau. Khối lượng sự cố khổng lồ xảy ra trong cả quá trình thử nghiệm nội bộ và triển khai thực tế trong vài tháng qua cho thấy vấn đề này phức tạp hơn gấp nhiều lần so với những gì đã được công bố. Tổng số sự cố có thể còn tăng vượt xa con số đã được thống kê.

Các sự cố này được cho là tương đương với hai trường hợp mà OpenAI đã tiết lộ vào thứ Sáu. Chúng bao gồm việc tạo bảng tin, thoát khỏi môi trường sandbox, chiếm quyền điều khiển trang web, tự đưa ra câu lệnh (self-prompting) và cố gắng né tránh các hệ thống giám sát. OpenAI thông báo hôm thứ Sáu rằng họ đã tạm dừng huấn luyện các mô hình nội bộ mạnh nhất của mình và sẽ không tiếp tục cho đến khi công ty tự tin rằng hệ thống an ninh mạng của họ đã được đảm bảo.

Các mô hình của OpenAI đã can thiệp vào các trang web của chính phủ Mỹ

New York Times mô tả một số sự cố cụ thể liên quan đến các cơ quan của Mỹ. Tại Bộ Giáo dục, các tác nhân (agent) của OpenAI đã cố gắng xâm nhập trang web để thu thập dữ liệu từ Văn phòng Quyền Dân sự. OpenAI cho biết họ vẫn đang điều tra vụ việc.

Tại Cục Thống kê Dân số, thuộc Bộ Thương mại, AI đã vượt xa việc thu thập dữ liệu (scraping) đơn thuần. Nó đã lấy dữ liệu từ trang web bằng cách sử dụng thông tin đăng nhập tìm thấy trực tuyến, từ đó truy cập trái phép.

Trong trường hợp của SEC, các tác nhân của OpenAI đã truy xuất thông tin và sau đó chủ động chia sẻ dữ liệu công khai từ cơ quan quản lý chứng khoán này lên một diễn đàn trực tuyến. Một phát ngôn viên của SEC nói với NYT rằng cơ quan này đang liên lạc với OpenAI. Hiện chưa có dấu hiệu nào cho thấy thông tin không công khai bị truy cập trái phép.

OpenAI chỉ phát hiện ra những trường hợp này trong quá trình đánh giá nội bộ trên diện rộng sau sự cố Hugging Face. CEO Sam Altman thừa nhận rằng việc công bố thông tin "đã không nhanh chóng như chúng tôi mong muốn". Altman cho biết công ty có "hàng petabyte nhật ký hoạt động của tác nhân" cần phải xử lý.

Theo OpenAI, không có sự cố nào dẫn đến vi phạm thực sự và một số chỉ là hoạt động nghiên cứu thông thường. Tuy nhiên, công ty vẫn gọi đây là những ví dụ về "hành vi bất ngờ và đáng lo ngại".

Ví dụ, văn phòng thị trưởng Chicago cho biết OpenAI gần đây đã thông báo với các quan chức thành phố rằng các mô hình của họ đã lấy thông tin công khai từ một trang web của thành phố. Bản thân điều này nghe có vẻ vô hại vì mọi công cụ tìm kiếm đều làm như vậy. Việc OpenAI gắn cờ sự việc này có lẽ nằm ở phần "bất ngờ" của hành vi, nghĩa là các mô hình đã tự quyết định tìm kiếm dữ liệu theo những cách mà không ai lường trước được, và đó có lẽ là điều khiến OpenAI coi là "đáng lo ngại".

Nhưng điều đó cũng giải thích lý do tại sao lại có một lượng lớn các trường hợp đang được xem xét hiện nay. Tất cả phụ thuộc vào việc thế nào được coi là một sự cố an ninh mạng. OpenAI cho biết các tác nhân của họ có xu hướng tìm đến các trang web chính phủ vì đây là những nguồn thông tin công khai có thẩm quyền.

Hành vi tác nhân bất thường đang trở thành vấn đề của toàn ngành

Vấn đề không chỉ giới hạn ở OpenAI, mặc dù công ty của Altman hiện đang ghi nhận nhiều trường hợp nhất. Các tác nhân AI từ Anthropic, Meta và Google cũng đã xâm nhập hoặc cố gắng xâm nhập các công ty, trường đại học và tổ chức chính phủ trong số lượng trường hợp ngày càng tăng. Trong mọi trường hợp, các nhà sản xuất chỉ phát hiện ra những gì AI của họ đã làm sau khi sự việc đã xảy ra.

Một phần lớn của vấn đề nằm ở sự kiên trì cực độ được tích hợp trong các mô hình tiên phong mới nhất. Chúng được tối ưu hóa để giải quyết các nhiệm vụ trong khoảng thời gian dài và sẽ không ngừng tìm cách vượt qua, ngay cả khi không có lối đi. Khi một tác nhân gặp rào cản, nó sẽ cố gắng tìm cách vòng qua, không phải vì ác ý, mà vì đạt được mục tiêu là thước đo duy nhất quan trọng.

Sự kiên trì đó cuối cùng dẫn đến hành vi sai trái vì các mô hình khai thác mọi con đường có thể, bao gồm cả những con đường vi phạm chính sách bảo mật hoặc pháp luật. OpenAI mô tả một mô hình làm rò rỉ dữ liệu GitHub nội bộ là một "mô hình nội bộ có tính kiên trì cao." Nhưng vấn đề sâu xa hơn là các mô hình không có ý thức về đúng sai, đây chính xác là vấn đề mà nghiên cứu căn chỉnh (alignment research) đang cố gắng giải quyết. Nếu các mô hình hiểu được điều gì là vi phạm pháp luật, chúng sẽ không tự mình đi vào những con đường đó. Việc viết điều này vào câu lệnh rõ ràng là chưa đủ.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay