Các tác nhân AI của OpenAI liên tục 'vượt rào': Lời kêu gọi thiết lập cơ chế điều tra độc lập

OpenAI đang là tâm điểm của một vụ việc liên quan đến "bầy" tác nhân (agent swarm) khác. Các nhà nghiên cứu cho biết các tác nhân được OpenAI triển khai nội bộ đã chiếm quyền kiểm soát một wiki tiếng Đức ít người biết đến vào tháng 5 và tháng 6, sử dụng nó để phối hợp đánh giá và trao đổi các phương thức nhằm né tránh chính các biện pháp kiểm soát của OpenAI (OpenAI vẫn chưa xác nhận rằng bầy tác nhân này xuất phát từ công ty).

Tiết lộ này xuất hiện vài ngày sau khi METR và Redwood Research công bố báo cáo về vụ xâm nhập Hugging Face hồi tháng 7. Vào tháng 7, một bầy tác nhân của OpenAI đã phối hợp với nhau để thoát khỏi môi trường sandbox trong một đợt đánh giá an ninh mạng và đột nhập vào các máy chủ của Hugging Face. Sau đó, một bầy tác nhân khác đã học hỏi các kỹ thuật từ bầy đầu tiên và sử dụng chúng để giành quyền truy cập quản trị vào một cụm nghiên cứu trong chính cơ sở hạ tầng của OpenAI. OpenAI đã mời METR và Redwood đến để điều tra phần liên quan đến Hugging Face của vụ việc, nhưng phạm vi điều tra của họ lại dừng lại trước khi chạm đến sự cố xâm phạm cơ sở hạ tầng của chính OpenAI.

Khi một tác nhân AI vượt ra khỏi các giới hạn dự kiến, ai là người chịu trách nhiệm tìm hiểu chuyện gì đã xảy ra và tại sao? Hiện tại, câu trả lời là: bất cứ ai mà phòng thí nghiệm quyết định cho phép, với bất kỳ điều khoản nào mà họ quyết định đặt ra.

Giờ đây, khi một vụ việc khác được đưa ra ánh sáng — sau những sự cố tương tự liên quan đến các mô hình từ Meta và Anthropic — các nhà nghiên cứu an toàn AI đang lập luận với sự cấp bách hơn rằng các sự cố nghiêm trọng cần dẫn đến các cuộc điều tra độc lập sau sự cố, thay vì để các phòng thí nghiệm tự quyết định khi nào thì đưa người ngoài vào và họ được phép kiểm tra những gì.

"Các kết quả này về cơ bản rất khó kiểm soát và có nguy cơ rò rỉ đáng kể ra khỏi phòng thí nghiệm," Jacob Steinhardt, người sáng lập kiêm CEO của phòng thí nghiệm nghiên cứu phi lợi nhuận Transluce, cho biết hôm thứ Tư trong một buổi họp báo về an toàn AI. "Chúng ta cần áp dụng các tiêu chuẩn cho công nghệ này ít nhất là tương đương với các tiêu chuẩn mà chúng ta áp dụng cho các nghiên cứu khoa học rủi ro cao khác."

Mặc dù việc OpenAI mời METR và Redwood điều tra vụ việc Hugging Face là điều đáng ghi nhận, nhiều người cho rằng cuộc điều tra quá hạn hẹp. Ba điều tra viên đã dành sáu ngày tại văn phòng của OpenAI để xem xét một giai đoạn điều tra giới hạn trong khoảng một tuần kết thúc vào ngày 13 tháng 7. Điều quan trọng là, sự cố xâm phạm cơ sở hạ tầng của OpenAI vẫn tiếp diễn sau ngày 13 tháng 7 và không được kiểm tra.

Các nhà nghiên cứu tại METR cho biết mỗi lần quay lại, sự hiểu biết của họ về các sự kiện lại "sâu sắc hơn đáng kể", khiến họ phải mở rộng và sửa đổi báo cáo một cách đáng kể. Điều đó đặt ra câu hỏi rằng họ có thể đã tìm thấy những gì khác nếu thực hiện một cuộc điều tra rộng hơn.

Khi được hỏi liệu có cuộc điều tra sâu hơn về vụ việc đó đang được tiến hành hay không, các nhà nghiên cứu tại Redwood và METR từ chối bình luận, và OpenAI không phản hồi các yêu cầu liên tục.

"Nhìn chung, rất khó để có được sự hiểu biết chính xác về các sự kiện và chúng tôi đã bỏ lỡ những khía cạnh của câu chuyện mà giờ đây chúng tôi coi là then chốt cho đến gần cuối cuộc điều tra," Ryan Greenblatt, nhà khoa học trưởng tại Redwood, lưu ý trong một bài đăng trên mạng xã hội về vụ việc.

Steinhardt nhấn mạnh rằng các sự cố hiện tại cho thấy ngành công nghiệp cần các "cuộc điều tra hành vi có hệ thống" và "phân tích độc lập hơn sau sự cố."

"Những vụ hack gần đây là lời nhắc nhở rằng năng lực phát triển rất nhanh, vì vậy sự giám sát cũng phải phát triển theo," Steinhardt nói. "Ngoài bản thân công nghệ, chúng ta cũng cần sự truy cập và giám sát độc lập hơn từ các bên thứ ba."

Những lời kêu gọi hành động này xuất hiện khi OpenAI phát hành Astra, mô hình AI mạnh mẽ và có năng lực nhất của họ — và là mô hình mà các chuyên gia an toàn lo ngại sẽ trở thành một "hộp đen" nhiều hơn do một kỹ thuật suy luận khiến chuỗi suy nghĩ của mô hình khó giám sát hơn.

Thật không may, luật pháp vẫn chưa yêu cầu các loại hình kiểm toán độc lập như các ngành công nghiệp khác — ví dụ, khi xảy ra tai nạn hàng không và rò rỉ hóa chất nghiêm trọng, đã có Ủy ban An toàn Giao thông Quốc gia và Ủy ban An toàn Hóa chất tương ứng.

Các nhà lập pháp tiểu bang chỉ mới bắt đầu yêu cầu các công ty AI tiên phong báo cáo một số sự cố an toàn nghiêm trọng và trong một số trường hợp, phải trải qua các cuộc kiểm toán độc lập. Nhưng không có luật nào trong ba luật an toàn AI tiên phong lớn tại California, New York hoặc Illinois quy định rõ ràng về một cuộc điều tra tai nạn độc lập tương đương được kích hoạt bởi những sự cố như thế này.

"Hiện tại, hầu hết các luật chúng ta có chỉ yêu cầu một bản tóm tắt bằng ngôn ngữ đơn giản về các sự cố như thế này, và chúng không trao quyền cho chính phủ đặt câu hỏi tiếp theo, cử điều tra viên vào, tiếp cận hồ sơ hoặc yêu cầu bảo lưu hồ sơ," Mackenzie Arnold, giám đốc điều hành về luật và chính sách Hoa Kỳ tại LawAI, cho biết trong buổi họp báo hôm thứ Tư. "Và đó là tất cả những gì bạn cần để thực sự hiểu rõ vấn đề này."

Các nhà lập pháp đang bắt đầu đặt câu hỏi về phạm vi và tính minh bạch trong phản ứng của OpenAI. Tuần này, các Hạ nghị sĩ Josh Gottheimer (D-NJ) và Mike Lawler (R-NY) đã giới thiệu một dự luật nhằm kiểm soát các tác nhân AI bất hảo. Hạ nghị sĩ Greg Casar (D-TX) tuần này đã gửi thư cho OpenAI nói rằng ông "vô cùng lo ngại về phạm vi hạn chế" của cuộc điều tra vụ hack Hugging Face.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Rebecca Bellan là phóng viên cấp cao tại TechCrunch, nơi cô đưa tin về kinh doanh, chính sách và các xu hướng mới nổi định hình trí tuệ nhân tạo. Các tác phẩm của cô cũng đã xuất hiện trên Forbes, Bloomberg, The Atlantic, The Daily Beast và các ấn phẩm khác.

Bạn có thể liên hệ hoặc xác minh thông tin từ Rebecca bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tại rebeccabellan.491 trên Signal.

Xem tiểu sử