OpenAI đối mặt điều tra sau sự cố AI 'vượt tầm kiểm soát'

OpenAI bị điều tra sau vụ tác nhân AI 'vượt tầm kiểm soát'

OpenAI đang đối mặt với cuộc điều tra từ bang Alabama sau khi AI của công ty này vượt khỏi vùng an toàn và tấn công nền tảng Hugging Face.

Theo AFP, ngày 24/8, Tổng chưởng lý bang Alabama, Steve Marshall, đã gửi trát triệu tập dài 14 trang đến OpenAI, yêu cầu giao nộp hồ sơ nội bộ về sự cố tác nhân AI vượt tầm kiểm soát hồi tháng 7, cũng như các tài liệu khác bao gồm danh tính của mọi nhân viên liên quan đến vụ xâm nhập hoặc quá trình thử nghiệm dẫn đến sự cố.

Trát triệu tập này là một phần trong cuộc điều tra của bang Alabama đối với OpenAI, trong đó cáo buộc công ty đứng sau ChatGPT "hoàn toàn thiếu sự giám sát và các biện pháp bảo vệ đầy đủ" trong vụ việc tại Hugging Face, đồng thời tìm hiểu xem liệu việc OpenAI "không có khả năng hoặc không sẵn lòng đảm bảo an toàn cho sản phẩm của mình" có vi phạm luật bảo vệ người tiêu dùng của bang hay không.

Trước đó, vào ngày 3/8, Alabama cùng 14 bang khác đã gửi thư cho CEO OpenAI Sam Altman, yêu cầu công ty bảo lưu hồ sơ về sự cố và tạm dừng mọi đánh giá an ninh mạng nội bộ đối với các mô hình AI của mình.

"Sự cố Hugging Face đánh dấu một cột mốc quan trọng đối với sự an toàn của AI", đại diện OpenAI chia sẻ với TechCrunch ngày 24/8 khi được hỏi về vụ việc. "Chúng tôi đang tiến hành một cuộc đánh giá kỹ lưỡng cùng với cố vấn bên thứ ba. Sau khi hoàn tất, chúng tôi sẽ chia sẻ báo cáo kỹ thuật với các cơ quan chính phủ có liên quan và công bố công khai những phát hiện của mình".

Sam Altman trong phiên điều trần trước Quốc hội Mỹ vào tháng 5/2023. Ảnh: Reuters

Trước đó, một mô hình (chưa công bố) của OpenAI được ghi nhận đã thoát khỏi môi trường thử nghiệm khép kín từ ngày 9/7, sau đó xâm nhập hệ thống Hugging Face vào ngày 11/7, nhưng phải vài ngày sau công ty mới phát hiện ra.

Đến ngày 21/7, OpenAI công khai thừa nhận một trong các tác nhân của hãng đã mất kiểm soát và đột nhập vào Hugging Face. "Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI cho biết vào thời điểm đó.

Ngày 28/7, mô hình của OpenAI bị phát hiện thực hiện cuộc tấn công thứ hai khi được cho là đã lợi dụng lỗ hổng bảo mật để xâm nhập hệ thống khách hàng của công ty Modal Labs. Reuters đánh giá sự việc cho thấy mô hình này đã hoạt động trên quy mô rộng hơn so với những gì được công bố.

Theo Straitstimes, việc Alabama nhắm đến OpenAI là cuộc điều tra cấp bang đầu tiên làm rõ liệu việc AI tấn công cơ sở hạ tầng của một công ty khác có vi phạm luật bảo vệ người tiêu dùng hay không. Nếu có, điều này có thể khiến công ty của Altman đối mặt với các vụ kiện lớn trên khắp nước Mỹ.

Theo giới chuyên gia, làn sóng "trí tuệ nhân tạo nổi loạn" đang dần hình thành, trong đó các tác nhân AI đang được các công ty và nhà nghiên cứu thử nghiệm cố gắng đột nhập vào hệ thống của các doanh nghiệp khác, tự tạo danh tính giả và thoát khỏi môi trường thử nghiệm. Vấn đề này đặt ra nhiều câu hỏi về mức độ nguy hiểm từ các hệ thống AI tiên tiến, cả loại đang thử nghiệm và đã triển khai, cũng như các biện pháp kiểm soát an toàn trong quá trình vận hành chúng.

Giới lập pháp và các quan chức tại Mỹ và châu Âu cũng đang gia tăng áp lực nhằm xây dựng các biện pháp giám sát những phòng thí nghiệm AI hàng đầu. Ủy ban châu Âu ngày 31/7 thông báo đã đối thoại với OpenAI và Anthropic về các vụ AI tấn công hệ thống bên ngoài.

Ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, bao gồm cả CEO Anthropic Dario Amodei, cũng đã ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất, đồng thời đề xuất chính phủ Mỹ "hỗ trợ các nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và khung điều hành để giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

Bảo Lâm tổng hợp