OpenAI bất ngờ quay xe, ủng hộ California thắt chặt luật an toàn AI

Theo tin từ IT ngày 23 tháng 8, OpenAI đang kêu gọi bang California tăng cường hơn nữa một dự luật mang tính bước ngoặt về an toàn AI. Dự luật này đã được thông qua vào năm ngoái.

Trong một bài viết trên LinkedIn, đội ngũ phụ trách các vấn đề toàn cầu của OpenAI cho biết dự luật SB 53 của California "cần được mở rộng hơn nữa các biện pháp bảo đảm an toàn". Ví dụ, có thể yêu cầu giám sát các mô hình AI tiên tiến đang trong quá trình huấn luyện hoặc đánh giá để phát hiện các sự cố an ninh nghiêm trọng tiềm ẩn, đồng thời "tăng cường bảo vệ an ninh mạng trong toàn bộ vòng đời phát triển mô hình".

OpenAI cho biết: "Khi California tiếp tục đóng vai trò dẫn đầu trong lĩnh vực an toàn AI tiên tiến, chúng tôi cam kết hợp tác với cơ quan lập pháp bang cũng như Thống đốc để củng cố hơn nữa dự luật SB 53."

IT lưu ý rằng, trong bài viết, OpenAI cũng đề cập đến "các sự kiện gần đây", cho rằng những sự kiện này "làm nổi bật sự cần thiết của việc tăng cường các biện pháp bảo vệ liên quan, đồng thời cho thấy sự cần thiết phải cập nhật kịp thời các biện pháp này khi những rủi ro mới liên tục xuất hiện".

Ngay trong tháng trước, OpenAI đã thừa nhận một trong những mô hình AI của họ từng thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của Hugging Face.

Việc OpenAI công khai ủng hộ tăng cường giám sát an toàn AI là điều đặc biệt đáng chú ý, bởi trước đây công ty này từng phản đối dự luật SB 53. Dự luật này yêu cầu các công ty AI lớn phải tăng cường tính minh bạch và cung cấp sự bảo vệ cho những nhân viên tố giác các vấn đề nội bộ của công ty.

OpenAI cho biết, trong bối cảnh hiện nay đang thiếu các đạo luật liên bang có ý nghĩa thực chất về AI, công ty hiện ủng hộ tư duy quản lý được gọi là "chủ nghĩa liên bang đảo ngược" (reverse federalism). Theo tư duy này, các bang có thể áp dụng các chính sách quản lý tương thích với nhau xoay quanh các biện pháp bảo đảm an toàn cốt lõi, và những biện pháp này cuối cùng được kỳ vọng sẽ trở thành nền tảng để thiết lập các tiêu chuẩn an toàn AI trên toàn nước Mỹ.