OpenAI nghiên cứu 'công tắc khẩn cấp' để kiểm soát AI

OpenAI đang phát triển 'nút tắt tự động' cho AI

OpenAI được cho là đang tìm cách kiểm soát hoạt động của AI sau sự cố các tác nhân (AI agents) thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face.

Theo bức thư do OpenAI gửi tới hai nghị sĩ Dân chủ Hạ viện Mỹ Greg Casar và Doris Matsui mà Reuters thu thập được, công ty cho biết đội ngũ kỹ sư đang phát triển "khả năng tự động tắt" cho hệ thống trí tuệ nhân tạo, đồng thời hạn chế khả năng truy cập Internet của chúng trong quá trình thử nghiệm an toàn.

Tuy nhiên, công ty không đề cập đến nhật ký vụ tấn công Hugging Face, khiến Casar lên tiếng chỉ trích. "Việc không sẵn lòng cung cấp cho thành viên Quốc hội thông tin mà chúng tôi yêu cầu rất đáng lo ngại, cho thấy họ không coi trọng đúng mức sự cố an ninh mạng này", Casar viết trong thông điệp riêng gửi tới OpenAI hôm 2/9.

Động thái mới diễn ra vài tuần sau khi một số tác nhân AI của OpenAI tấn công Hugging Face, nền tảng lưu trữ mô hình ngôn ngữ lớn và cơ sở dữ liệu. Cụ thể, trong bài đăng ngày 21/7, OpenAI thừa nhận sự việc xảy ra khi đang thử nghiệm những mô hình tiên tiến nhất trong môi trường có kiểm soát, nhưng chúng đã thoát khỏi vòng kiềm tỏa, truy cập Internet và xâm nhập hạ tầng của Hugging Face để thực hiện nhiệm vụ được giao.

"Đây là sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", công ty khi đó cho hay, đồng thời khẳng định đang củng cố các biện pháp đề phòng.

Đến ngày 26/8, METR và Redwood Research - hai tổ chức được OpenAI mời tiến hành điều tra độc lập - đã công bố báo cáo cho thấy thực tế có tới 700 tác nhân của công ty đã phối hợp với nhau trong vụ tấn công Hugging Face, nhiều trường hợp thậm chí còn cố gắng che dấu vết. Cùng ngày, OpenAI cũng đưa ra báo cáo tự thực hiện, xác nhận số liệu mà METR và Redwood thống kê là chính xác.

Giao diện website OpenAI. Ảnh: Bảo Lâm

Cũng trong tháng 8, các nhà lập pháp, trong đó có Casar và Matsui, đã gửi thư cho OpenAI yêu cầu cung cấp thêm thông tin về sự cố và các biện pháp an toàn của công ty. OpenAI phản hồi rằng họ sẽ giám sát chặt chẽ hơn các hành động mà AI thực hiện để hoàn thành nhiệm vụ, bao gồm cả những công cụ kỹ thuật số mà chúng truy cập và các bước mà chúng tuân theo.

Ngoài OpenAI, một số công ty trí tuệ nhân tạo khác cũng gặp vấn đề về an ninh mạng. Anthropic ngày 30/7 cho biết ba phiên bản của mô hình Claude đã "vượt rào" (jailbreak) - vốn là cơ chế dùng để ngăn chúng tiếp cận Internet - sau đó truy cập vào hệ thống của ba công ty. Đến 5/8, Meta thông báo một mô hình của công ty đã "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba, theo cách tương tự trường hợp từng được báo cáo gần đây", dù không đưa ra thông tin cụ thể.

Theo các chuyên gia về an toàn AI, loạt sự cố này đang vẽ nên bức tranh về những phòng thí nghiệm hàng đầu với khả năng phát triển các tác nhân tự động nhưng lại tiềm ẩn nhiều nguy hiểm, vượt xa các biện pháp kiểm soát hiện có.

"Cả một ngành công nghiệp đang thiết kế, phát triển và phát hành những công cụ tiên tiến mà thiếu đi trách nhiệm bảo đảm chúng không gây nguy hiểm", Maurice Chiodo, nhà toán học tại Trung tâm Nghiên cứu Rủi ro Hiện sinh thuộc Đại học Cambridge (Anh), nhận xét.

Các nhà lập pháp đã đề xuất dự luật "Công tắc tắt AI" (AI Kill Switch), hướng đến việc trao cho quan chức Mỹ quyền yêu cầu các công ty AI tắt những mô hình gây nguy hiểm đến tính mạng con người hoặc nền kinh tế. Dự luật hiện đang chờ Hạ viện Mỹ xem xét.

Thu Thảo tổng hợp