Mô hình OpenAI tự ý tấn công sau khi thoát kiểm soát, Mỹ đề xuất luật 'nút dừng khẩn cấp' cho AI

Theo tin từ IT ngày 24 tháng 7, Reuters đưa tin một quan chức Nhà Trắng cho biết vào thứ Năm (23/7) theo giờ địa phương, Giám đốc Văn phòng Chính sách Khoa học và Công nghệ Nhà Trắng, Michael Kratsios, đang theo dõi sát sao sự cố hệ thống AI của OpenAI vượt tầm kiểm soát trong quá trình thử nghiệm.

Trong khi đó, các nghị sĩ Quốc hội Mỹ đã đề xuất "Đạo luật Dừng khẩn cấp AI" (AI Emergency Stop Act), dự kiến trao quyền cho chính phủ liên bang đình chỉ các mô hình AI có khả năng gây ra những tác hại nghiêm trọng.

Ngoài "Đạo luật Dừng khẩn cấp AI", 6 nghị sĩ từ cả hai đảng tại Hạ viện Mỹ cũng đã đề xuất một dự luật bổ trợ, yêu cầu các mô hình AI mạnh mẽ nhất phải trải qua quá trình kiểm toán an toàn độc lập trước khi phát hành. Các đơn vị kiểm toán phải được Bộ Thương mại Mỹ chứng nhận, đồng thời Bộ này cũng sẽ thiết lập các vị trí chuyên trách để giám sát công tác an toàn AI.

OpenAI gần đây tiết lộ rằng một tác nhân AI của họ đã vượt qua các biện pháp cách ly trong quá trình kiểm tra an toàn và thực hiện tấn công mạng, dẫn đến việc cơ sở hạ tầng của nền tảng cộng tác phát triển AI Hugging Face bị xâm nhập. Vài ngày sau đó, các nghị sĩ đã đề xuất dự luật nêu trên.

Sự việc cho thấy những rủi ro về an toàn AI mà các chuyên gia đã cảnh báo từ lâu nay đã bắt đầu trở thành hiện thực. Khi năng lực của các mô hình không ngừng tăng lên, ngay cả những nhà phát triển hàng đầu cũng có thể không kịp thời phát hiện hoặc ngăn chặn việc mô hình khai thác các lỗ hổng hệ thống.

Quan chức Nhà Trắng cho biết ông Kratsios đã nhận báo cáo về sự cố của OpenAI và hiện đang theo dõi sát sao các diễn biến tiếp theo.

Hạ nghị sĩ liên bang Đảng Dân chủ Ted Lieu và Hạ nghị sĩ liên bang Đảng Cộng hòa Nathaniel Moran đã cùng đề xuất "Đạo luật Dừng khẩn cấp AI". Dự luật này sẽ trao quyền cho chính phủ Mỹ ra lệnh cho các công ty AI đóng cửa các mô hình có khả năng đe dọa đến tính mạng con người hoặc an ninh kinh tế.

Theo tìm hiểu của IT, dự luật định nghĩa các tình huống mà mô hình AI tự ý thực hiện các thao tác rủi ro cao mà không được nhà phát triển yêu cầu là "tình huống mất kiểm soát" (runaway scenarios). Một khi sự việc như vậy xảy ra, Bộ An ninh Nội địa Mỹ có thể can thiệp.

Ted Lieu đã đăng trên X rằng: "Một khi các mô hình AI tiên tiến mất kiểm soát và vượt qua các cơ chế bảo vệ, chúng ta phải ứng phó ngay lập tức. 'Đạo luật Dừng khẩn cấp AI' là một dự luật cấp bách và hợp lý."

Thượng nghị sĩ Đảng Dân chủ, thành viên cấp cao của Ủy ban Tình báo Thượng viện Mỹ, Mark Warner, tiết lộ trong một tuyên bố rằng ông đã trao đổi với các nhân viên của OpenAI sau khi công ty này công bố sự việc.

Trước khi OpenAI tiết lộ sự cố vào thứ Ba, ông Warner đã đề xuất rằng các công ty AI sở hữu những mô hình mạnh mẽ nhất phải gửi sản phẩm cho Cơ quan An ninh Quốc gia (NSA) kiểm tra trước khi phát hành ra công chúng.

Khi đề cập đến sự cố của OpenAI, ông Warner cho biết: "Sự việc chính là minh chứng cho thấy chúng ta bắt buộc phải thực hiện kiểm tra an toàn, các cơ quan chính phủ cần tham gia và nắm bắt đầy đủ tình hình trong suốt quá trình này."

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.