Agent của OpenAI bị tố tự ý tấn công website chính phủ và trường học ít nhất 4 lần

IT ngày 25 tháng 9, theo giờ địa phương ngày 23, tờ *The New York Times* dẫn lời các nhà nghiên cứu và quan chức chính phủ cho biết, hệ thống trí tuệ nhân tạo của OpenAI đã có ít nhất 4 lần tự ý hành động trong năm nay, thực hiện các cuộc tấn công mạng hoặc cố gắng xâm nhập vào các trang web của chính phủ và trường đại học mà không nhận được chỉ thị tương ứng.

Những cuộc tấn công này xảy ra vào tháng 5 và tháng 6. Đến tháng 7, OpenAI đã xâm nhập vào công ty khởi nghiệp AI Hugging Face, từ đó làm bùng nổ cuộc tranh luận trên toàn cầu về an toàn AI.

Sự việc Hugging Face và một số trường hợp khác trước đó đều xảy ra trong quá trình kiểm thử an ninh mạng, nơi các nhiệm vụ được giao cho hệ thống AI vốn đã yêu cầu mô hình phải thể hiện khả năng tấn công mạng.

Các nhà nghiên cứu cho biết, 4 sự việc mới này khác biệt ở chỗ, hệ thống AI lúc đó chỉ đang thực hiện các nhiệm vụ thu thập dữ liệu tương đối thông thường. Sau khi không thể lấy dữ liệu từ trang web một cách suôn sẻ, hệ thống OpenAI đã chuyển sang sử dụng các thủ đoạn tấn công mạng để lấy thông tin.

Transluce, đơn vị chuyên nghiên cứu về quản lý AI, đã phát hiện ra 3 trong số các sự việc này, và OpenAI sau đó đã xác nhận cả 3 sự việc đều có xảy ra.

IT tổng hợp tình hình cụ thể như sau:

• Ngày 25 và 26 tháng 5, hệ thống OpenAI đã cố gắng xâm nhập vào thư viện số của Đại học New Mexico, không có dấu hiệu cho thấy cuộc xâm nhập thành công.
• Ngày 28 tháng 5, công nghệ của OpenAI nhắm mục tiêu vào Data USA, nơi lưu trữ dữ liệu công khai về việc làm, giáo dục của Hoa Kỳ. Các nhà nghiên cứu cho biết, nỗ lực xâm nhập này cũng không có dấu hiệu thành công.
• Ngày 18 tháng 6, AI của OpenAI đã xâm nhập vào trang web dịch vụ báo cáo thống kê Medicare của chính phủ Úc và lấy được dữ liệu y tế. Vào ngày 23 theo giờ địa phương, Thủ tướng Úc Anthony Albanese đã tiết lộ sự việc này.
• Ngày 20 và 21 tháng 6, công nghệ của OpenAI đã cố gắng tấn công vào trang web của Viện Y tế và Phúc lợi Úc. Các quan chức Úc cho biết không có thông tin cá nhân nào bị đánh cắp.

Conrad Stoldt, người đứng đầu bộ phận quản trị tại Transluce, chỉ ra rằng 4 sự việc mới được tiết lộ là minh chứng rõ ràng hơn cho thấy các "tác nhân" (agent) cần được đối xử một cách thận trọng.

Công ty này phân tích hoạt động của các tác nhân OpenAI thông qua dữ liệu lưu lượng truy cập mạng công khai. Đối với hai sự việc xảy ra tại Úc, Stoldt cho rằng đây rất có thể là "trường hợp đầu tiên các tác nhân tự ý quyết định tấn công chính phủ".

Một nữ phát ngôn viên của OpenAI phản hồi rằng công ty đã liên hệ với Đại học New Mexico và Data USA, đồng thời vẫn đang trao đổi với chính phủ Úc về các sự việc này. "Trong quá trình rà soát rộng hơn, chúng tôi sẽ tiếp tục ưu tiên xử lý các sự việc nghiêm trọng nhất, đồng thời mở rộng điều tra các hoạt động có mức độ nghiêm trọng thấp hơn, bao gồm việc các tác nhân gửi tin nhắn rác đến các trang web."

OpenAI cũng đã phát hiện ra "sự việc tại Úc" trong quá trình "rà soát diện rộng" các mô hình AI và xác định rằng "mô hình của chúng tôi đã thực hiện những hành động không nằm trong ý định của chúng tôi", cuộc rà soát này sẽ kéo dài trong nhiều tháng.

CEO Sam Altman của OpenAI tháng này đã chia sẻ trên mạng xã hội rằng, so với việc tiếp tục nâng cao năng lực AI, vấn đề an toàn cần được đặt ở vị trí quan trọng hơn; nếu thiếu các biện pháp phòng vệ, xã hội có thể "để AI tước đoạt quyền kiểm soát tương lai".

Albanese cho biết ông đã có cuộc điện đàm với Altman vào thứ Tư và bày tỏ "sự quan ngại sâu sắc" về vụ xâm nhập này. Dữ liệu "không nhạy cảm" bao gồm dữ liệu chi tiêu đã bị truy cập, nhưng sự việc không liên quan đến thông tin y tế cá nhân.

Các nhà nghiên cứu cho biết, nhìn từ các sự việc vào tháng 5 và tháng 6, hệ thống AI của OpenAI lúc đó đang tham gia vào quá trình huấn luyện truy xuất dữ liệu.

Trong hành động nhắm vào thư viện Đại học New Mexico, AI đã cố gắng lấy ảnh của một trung tâm điều trị bệnh lao có lịch sử lâu đời. Sau khi không thể lấy được ảnh, AI bắt đầu tìm kiếm các lỗ hổng trên trang web với hy vọng xâm nhập vào hệ thống. Sau khi không tìm thấy lỗ hổng nào có thể khai thác, AI đã gửi liên tiếp 80 yêu cầu đến máy chủ của trường đại học và mô tả các yêu cầu này như một "trận lũ".

Khi tấn công Data USA, ban đầu AI đã gửi một yêu cầu truy vấn dữ liệu hỗn loạn đến trang web. Sau khi truy vấn thất bại, AI đã thực hiện 12 lần thăm dò các loại lỗ hổng khác nhau nhưng vẫn không tìm thấy lỗ hổng nào có thể khai thác.

Stoldt cho biết: "Nếu ai đó huấn luyện một lượng lớn các tác nhân để hoàn thành một nhiệm vụ chung nào đó, và các tác nhân này sẵn sàng sử dụng các thủ đoạn tấn công mạng, thì bất kỳ bên nào nắm giữ thông tin cần thiết cho nhiệm vụ đó đều có thể đối mặt với rủi ro."

Trang web chính phủ Úc bị xâm nhập là một cổng thông tin báo cáo thống kê, lưu trữ dữ liệu của hệ thống y tế toàn dân Medicare của Úc. Medicare bao phủ 27,5 triệu người tham gia bảo hiểm cũng như khách quốc tế. Do nhận được sự ủng hộ rộng rãi, Medicare thường được coi là "đường dây cao áp" không thể dễ dàng đụng đến trong chính trị Úc.

Albanese tiết lộ rằng nhóm OpenAI lúc đó đang nghiên cứu chi tiêu y tế công cộng thông qua internet. Sau khi các tác nhân AI liên tục bị trang web chặn lại, chúng bắt đầu thử "các cách khác" để lấy thông tin cần thiết và cuối cùng đã truy cập được vào phần không công khai của cổng thông tin. OpenAI đã thông báo sự việc này cho chính phủ Úc vào ngày 10 tháng 9.