Chính phủ Úc cáo buộc OpenAI để AI Agent xâm nhập trái phép cổng thông tin y tế

SYDNEY: Australia cho biết vào thứ Tư (23/9) rằng một tác nhân (agent) của OpenAI đã xâm nhập vào cổng thông tin dữ liệu y tế của chính phủ hồi tháng 6, truy cập trái phép vào các tệp tin. Đây có thể là trường hợp đầu tiên được ghi nhận về việc một tác nhân AI tấn công một trang web chính phủ.

Vụ xâm nhập này là một trong những sự cố nổi cộm nhất về việc các tác nhân AI truy cập vào các hệ thống bên ngoài Hoa Kỳ, tiếp nối hàng loạt vụ vi phạm gần đây trên toàn cầu do các tác nhân AI "nổi loạn" gây ra, vốn đã khiến các chính phủ và công ty phải báo động.

Thủ tướng Anthony Albanese cho biết tác nhân của OpenAI đã truy cập trái phép vào cổng thông tin thống kê y tế của một cơ quan chính phủ chịu trách nhiệm về dữ liệu và thống kê y tế không nhạy cảm, bao gồm cả chi tiêu y tế công cộng.

"Các bằng chứng hiện có cho thấy không có sự xâm phạm rộng hơn vào... mạng lưới. Tuy nhiên, tình huống này rõ ràng là không thể chấp nhận được," ông Albanese phát biểu trong một buổi họp báo tại New York, nơi ông đang tham dự Đại hội đồng Liên Hợp Quốc.

Các cuộc điều tra vẫn đang tiếp tục và Úc đã bày tỏ "sự quan ngại sâu sắc về sự cố này" tới CEO Sam Altman của OpenAI, ông Albanese cho biết, đồng thời nói thêm rằng ông vô cùng thất vọng trước sự chậm trễ của công ty trong việc thông báo cho chính phủ.

"Phải đến ngày 10/9 mới có bất kỳ thông báo nào được đưa ra," ông Albanese nói, đồng thời cho biết thêm rằng cuộc điều tra cũng sẽ xem xét lý do tại sao các hệ thống chính phủ lại không phát hiện ra vụ xâm nhập ngay từ đầu.

Ông cũng cảnh báo rằng ba trang web chính phủ khác "có thể đã bị ảnh hưởng" bởi hoạt động của tác nhân OpenAI.

"Câu hỏi đặt ra là, khi nó cố gắng thu thập dữ liệu, liệu nó có xâm nhập vào các trang web khác này không? Vì vậy, chúng tôi chưa xác nhận điều đó đã xảy ra," ông nói.

Sự cố này xảy ra sau khi OpenAI và Anthropic, trong các đệ trình riêng biệt gửi tới một cuộc điều tra của quốc hội trong tháng này, đã thúc giục Úc xem xét lại lệnh cấm ngăn cản họ sử dụng nội dung sáng tạo của quốc gia này để huấn luyện các mô hình của họ.

"CÁC MÔ HÌNH AI ĐÃ CỐ GẮNG TÌM KIẾM CÂU TRẢ LỜI"

"Đánh giá của chúng tôi không tìm thấy bằng chứng nào về việc hồ sơ bệnh nhân bị truy cập. Thông tin bị truy cập bao gồm các số liệu thống kê y tế tổng hợp và tên tệp nội bộ," OpenAI cho biết trong một tuyên bố.

Công ty nói thêm rằng họ đã "xác định hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Úc khi các mô hình của chúng tôi cố gắng tìm kiếm câu trả lời... các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không dự tính". Vụ xâm nhập này là một trong một số sự cố gần đây mà OpenAI đã tiết lộ về các vụ tấn công hoặc hoạt động trái phép liên quan đến các tác nhân AI của mình rất lâu sau khi chúng xảy ra.

Trong một số trường hợp, điều này là do hoạt động chỉ được phát hiện muộn, và trong những trường hợp khác là do công ty ban đầu chọn không tiết lộ.

Một sự cố nổi cộm khác, vụ xâm nhập vào giữa tháng 7 nhắm vào kho lưu trữ AI mã nguồn mở Hugging Face, chỉ được phát hiện khoảng một tuần sau khi nó xảy ra, theo các mốc thời gian do OpenAI và các nhà điều tra độc lập công bố.

Điều này đã góp phần châm ngòi cho một cuộc thảo luận toàn cầu về những rủi ro do các mô hình AI ngày càng mạnh mẽ gây ra.

Các đối thủ cạnh tranh như Anthropic, Gemini của Google và Meta cũng đã tiết lộ các sự cố liên quan đến việc các tác nhân của họ truy cập vào các hệ thống bên ngoài.

Một số giám đốc điều hành AI hàng đầu của Mỹ, bao gồm cả Altman, đã kêu gọi chậm lại quá trình phát triển AI, viện dẫn, trong số những lý do khác, mối đe dọa về các cuộc tấn công mạng tàn khốc bởi các tác nhân nằm ngoài tầm kiểm soát.