Florida kiện OpenAI, yêu cầu tòa án cấm phát triển mô hình AI mới nếu thiếu giám sát độc lập

IT ngày 29 tháng 9 đưa tin, theo Reuters, Tổng chưởng lý bang Florida (Mỹ) đã đệ đơn lên thẩm phán vào thứ Hai, yêu cầu tòa án cấm OpenAI phát triển các mô hình trí tuệ nhân tạo mới khi chưa có sự giám sát từ bên ngoài. Yêu cầu này là một phần trong vụ kiện của bang chống lại OpenAI với cáo buộc gây tổn hại cho trẻ vị thành niên.

Theo tìm hiểu của IT, bang Florida đã khởi kiện OpenAI từ tháng 6, cáo buộc doanh nghiệp này cố tình phóng đại mức độ an toàn của nền tảng ChatGPT; ChatGPT từng cung cấp thông tin liên quan cho kẻ xả súng tại trường học, đưa ra hướng dẫn về hành vi tự hại, đồng thời khiến người dùng thanh thiếu niên bị nghiện, gây tổn hại cho trẻ em.

Trong văn bản pháp lý đệ trình vào thứ Hai theo giờ địa phương, Tổng chưởng lý bang Florida James Uthmeier cũng yêu cầu tòa án ban hành lệnh cấm: buộc OpenAI ngăn chặn trẻ vị thành niên sử dụng ChatGPT, đồng thời cấm nền tảng trò chuyện này được gán cho "các đặc tính nhân hóa".

Người phát ngôn của OpenAI, Drew Pusateri, đã đưa ra tuyên bố cho biết công ty đã tạm dừng công việc huấn luyện các mô hình hiệu năng cao nhất của mình và sẽ không tiếp tục cho đến khi bổ sung thêm các cơ chế bảo vệ an toàn.

"Các chính phủ có trách nhiệm quan trọng trong việc thiết lập các tiêu chuẩn an toàn nghiêm ngặt cho trí tuệ nhân tạo. Chúng tôi sẵn sàng hợp tác với Florida và các bang khác để thúc đẩy các chính sách quản lý AI thực tế; các quy định liên quan nên được áp dụng cho toàn bộ ngành công nghiệp AI thay vì chỉ nhắm vào một doanh nghiệp đơn lẻ", Pusateri cho biết.

Đơn kiện này trích dẫn những phát biểu gần đây của một cựu nhân viên và một thành viên hội đồng quản trị hiện tại của OpenAI. Những quan điểm này cho rằng việc nghiên cứu và phát triển trí tuệ nhân tạo có khả năng dẫn đến sự kết thúc của nền văn minh nhân loại, vì vậy nhịp độ phát triển cần phải chậm lại.

Trong tài liệu đệ trình vào thứ Hai, bang Florida viết: "Các bị cáo tuyên bố rằng trừ khi có sự ràng buộc cưỡng chế từ chính phủ, họ không thể dừng bước và sẽ tiếp tục thúc đẩy công việc nghiên cứu có khả năng hủy diệt nền văn minh nhân loại này. Họ đã yêu cầu chính phủ hãy trói mình vào cột buồm".

Là một thành viên Đảng Cộng hòa, Uthmeier là Tổng chưởng lý bang đầu tiên khởi kiện OpenAI về những ảnh hưởng của sản phẩm đối với thanh thiếu niên. Đồng thời, OpenAI cũng đang phải đối mặt với nhiều vụ kiện dân sự từ các cá nhân và gia đình, trong đó các nguyên đơn cáo buộc ChatGPT khiến một số người dùng gây tổn hại cho bản thân hoặc người khác.

Ngòi nổ khiến bang Florida khởi xướng vụ kiện này là vụ xả súng tại một trường đại học ở Tallahassee vào năm ngoái, cùng với một số sự việc khác xảy ra tại nhiều bang khác; được biết trước khi gây án, các đối tượng đã sử dụng ChatGPT để thu thập thông tin liên quan.

OpenAI phủ nhận trách nhiệm đối với các vụ việc nêu trên. Công ty cho biết những thông tin mà chatbot đưa ra vốn đã có sẵn công khai trên Internet, đồng thời công ty cũng đang liên tục cải tiến các công cụ bảo vệ an toàn của mình.

Trong bối cảnh đã phát hiện một số mô hình AI cố gắng xâm nhập vào trang web của các cơ quan chính phủ và doanh nghiệp, OpenAI cùng các doanh nghiệp AI khác đang phải đối mặt với một vấn đề nghiêm trọng: doanh nghiệp sẽ phải chịu trách nhiệm pháp lý như thế nào nếu mô hình của họ thực hiện các cuộc tấn công mất kiểm soát.