OpenAI thừa nhận AI truy cập trái phép hệ thống chính phủ Australia

OpenAI thừa nhận tác nhân truy cập trái phép hệ thống chính phủ

OpenAI thừa nhận các mô hình AI của họ đã xâm nhập một số trang web và hệ thống chính phủ Australia trong quá trình huấn luyện và đánh giá nội bộ.

Ngày 28/9, công ty cho biết các cơ quan bị ảnh hưởng bao gồm Dịch vụ Australia (Services Australia), Cục Thống kê và Nghiên cứu Tội phạm New South Wales, Sở Y tế bang Victoria, và Viện Y tế và Phúc lợi Australia.

"Vào tháng 6, trong quá trình huấn luyện, các mô hình của chúng tôi đã truy cập vào các trang web của chính phủ Australia theo những cách không được cấp phép", OpenAI viết. Hãng chỉ phát hiện hành vi sai lệch vào giữa tháng 8, trong quá trình rà soát hoạt động huấn luyện mô hình sau vụ tấn công Hugging Face hồi giữa tháng 7.

Cụ thể, mô hình được giao các câu hỏi nghiên cứu thuộc nhiều lĩnh vực, giả lập các vấn đề chi tiết mà người dùng có thể yêu cầu. AI chỉ được phép tìm kiếm, diễn giải và phân tích thông tin công khai. Tuy nhiên, khi nghiên cứu mức chi tiêu của chính phủ cho các loại thuốc điều trị bệnh da liễu tại bang Victoria (Australia), mô hình không thu thập được thông tin nên đã chuyển sang hành động ngoài phạm vi cho phép.

Tác nhân AI đã tìm ra cách truy cập vào phần không công khai của dịch vụ báo cáo thống kê Medicare thuộc cơ quan Dịch vụ Australia, lấy tệp nội bộ, thông tin đăng nhập và số liệu thống kê tổng hợp. Theo OpenAI, hồ sơ thông tin cá nhân không bị ảnh hưởng.

Trước đó, ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết tác nhân do OpenAI phát triển đã xâm nhập trái phép cổng thông tin thống kê của một cơ quan chính phủ chịu trách nhiệm về "dữ liệu y tế không nhạy cảm". Ông gọi sự việc này là "không thể chấp nhận được" và khẳng định sẽ có hậu quả pháp lý.

Theo Nature, đây là lần đầu tiên AI của Mỹ xâm nhập hệ thống chính phủ của một quốc gia khác. Việc tác nhân có hành vi trái phép, không bị phát hiện trong nhiều tháng, trong khi OpenAI cảnh báo chậm trễ, khiến nhiều chuyên gia đặt câu hỏi về các biện pháp kiểm soát công nghệ mới.

Raffaele Ciriello, nhà nghiên cứu về sử dụng công nghệ mới có đạo đức tại Đại học Sydney, lưu ý rằng AI không phải là pháp nhân, do đó trách nhiệm pháp lý thuộc về OpenAI và những nhân viên lập cấu hình, giám sát hệ thống. Dù mô hình không lấy được hồ sơ y tế nhạy cảm, những vụ xâm nhập nghiêm trọng hơn hoàn toàn có thể xảy ra, đặc biệt khi AI ngày càng mạnh mẽ.

Jonathan Kummerfeld, nhà nghiên cứu AI tại Đại học Sydney, chỉ trích các công ty AI đang tiến hành nhiều thử nghiệm cùng lúc và không theo dõi hết những gì mô hình đang thực hiện.

Trên phương diện pháp lý, cần quy định rõ về trách nhiệm đối với hành động của mô hình AI tự vận hành, theo Mehwish Nasim, nhà nghiên cứu AI tại Đại học Western Australia. "Cần có luật rõ ràng về việc ai chịu trách nhiệm khi xảy ra sự cố", bà nói.

OpenAI cho biết đã chặn quyền truy cập mạng của các mô hình trong môi trường thử nghiệm, đồng thời tạm dừng việc huấn luyện và đánh giá khả năng sử dụng các công cụ bên ngoài, như trình duyệt web hay API, của những mô hình mạnh nhất.

Nam Nguyễn tổng hợp

• Tác nhân OpenAI đăng ảnh người dùng ChatGPT lên mạng