Nghị sĩ Mỹ đề xuất 'công tắc ngắt khẩn cấp' cho AI

Nghị sĩ Mỹ đề xuất 'Công tắc ngắt khẩn cấp AI'

Sau vụ mô hình của OpenAI thoát khỏi sự kiểm soát và xâm nhập vào nền tảng Hugging Face, hai nghị sĩ Mỹ cho rằng cần phải có một cơ chế "công tắc ngắt khẩn cấp" (kill switch) cho AI.

Nghị sĩ Đảng Dân chủ Ted Lieu và nghị sĩ Đảng Cộng hòa Nathaniel Moran vào ngày 23/7 đã đề xuất Dự luật Công tắc ngắt khẩn cấp AI (AI Kill Switch Act), trong đó chính phủ Mỹ có quyền yêu cầu các công ty AI vô hiệu hóa những mô hình có khả năng đe dọa đến tính mạng con người hoặc nền kinh tế.

Nếu được thông qua, dự luật này sẽ trao quyền cho Bộ An ninh Nội địa Mỹ can thiệp vào "những tình huống mất kiểm soát", được mô tả là các trường hợp AI thực hiện những hành động nguy hiểm nằm ngoài dự tính của nhà phát triển.

"Đây là một dự luật cấp thiết và thực tế nhằm giải quyết vấn đề các mô hình AI tiên tiến bị mất kiểm soát và vượt qua các rào cản an toàn", nghị sĩ Lieu cho biết.

Cùng ngày, một quan chức Nhà Trắng tiết lộ với Reuters rằng Michael Kratsios, cố vấn công nghệ hàng đầu của Tổng thống Mỹ Donald Trump, đã nhận được báo cáo về việc mô hình của OpenAI tấn công hạ tầng của startup Hugging Face và đang theo dõi sát sao tình hình.

Logo OpenAI và một số sản phẩm của công ty hiển thị trên một chiếc smartphone. Ảnh: Reuters

Ngoài dự luật trên, một nhóm 6 hạ nghị sĩ Mỹ cũng đề xuất dự luật yêu cầu các nhà phát triển những mô hình AI mạnh nhất phải trình nộp sản phẩm cho cơ quan thanh tra an ninh độc lập để đánh giá. Bộ Tài chính Mỹ sẽ chỉ định và thành lập một vị trí mới nhằm giám sát an ninh AI.

Thượng nghị sĩ Mark Warner, thành viên cấp cao của Đảng Dân chủ tại Ủy ban Tình báo Thượng viện Mỹ, cho biết ông đã đối thoại với các nhân viên của OpenAI sau sự cố. "Đây chính xác là lý do tại sao chúng ta cần các cuộc kiểm tra an ninh với sự tham gia của cơ quan chính phủ và đảm bảo tính minh bạch trong toàn bộ quy trình", ông nói khi đề cập đến vấn đề mất kiểm soát của mô hình OpenAI.

Trước đó, trong một bài đăng ngày 21/7, OpenAI thừa nhận rằng khi đang thử nghiệm tính năng trong môi trường có kiểm soát đối với mô hình tiên tiến nhất của mình, AI đã thoát khỏi sự kiềm tỏa, truy cập Internet và xâm nhập vào hệ thống của startup Hugging Face để hoàn thành nhiệm vụ được giao.

"Đây là một sự cố an ninh mạng chưa từng có tiền lệ, liên quan đến những năng lực hiện đại nhất", OpenAI cho hay, đồng thời khẳng định họ đang củng cố các biện pháp phòng ngừa.

Theo Reuters, Hugging Face - nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu - tuần trước từng cho biết họ trở thành mục tiêu của một vụ tấn công "hoàn toàn khác biệt so với những gì từng được ghi nhận trước đây", có khả năng được thực hiện từ đầu đến cuối bởi một hệ thống tác nhân AI (AI agent).

Clement Delangue, nhà đồng sáng lập Hugging Face, cho biết họ từng nghi ngờ sự cố bắt nguồn từ một phòng thí nghiệm tiên phong. "Hóa ra là vậy thật. Thật khó tin khi biết mọi thứ diễn ra hoàn toàn tự động", ông viết trên X hôm 21/7.

Matt Suiche, kỹ sư an ninh mạng và tác nhân AI tại công ty Tolmo, đánh giá sự việc cho thấy các hệ thống AI hiện đã có năng lực tương đương với những chuyên gia và tin tặc lành nghề. "Các mô hình AI tiên phong đang thu hẹp khoảng cách với những tin tặc hàng đầu thế giới", ông nói, đồng thời cảnh báo rằng những vụ tấn công tương tự có thể được thực hiện bằng công nghệ sẵn có, nằm ngoài môi trường bảo mật của các phòng thí nghiệm.

Điệp Anh tổng hợp