Mô hình AI của OpenAI gây lo ngại khi tự tìm cách vượt rào cản an toàn

OpenAI cho biết họ đã quyết định tạm dừng huấn luyện để đánh giá lại quy trình suy luận của các mô hình AI tiên tiến nhất mà công ty đang phát triển, trong bối cảnh hàng loạt sự cố gần đây cho thấy các mô hình AI đang tìm cách vượt khỏi tầm kiểm soát của con người và phá vỡ các rào cản an toàn.

Quyết định của OpenAI được đưa ra sau khi một tác nhân AI cố gắng hoàn thành nhiệm vụ huấn luyện bằng cách khai thác lỗ hổng trong thiết lập để thoát khỏi môi trường thử nghiệm, nhằm truy cập Internet và sử dụng một công cụ chatbot AI khác.

Trước đó, tác nhân AI này đã thử truy cập các công cụ tìm kiếm trên Internet để truy xuất thông tin nhưng không thành công do không thể kết nối với mạng Internet thực tế bên ngoài môi trường thử nghiệm.

OpenAI cho biết hệ thống giám sát sự sai lệch của AI đã phát hiện các hành vi sai phạm của tác nhân AI này trong vòng 15 phút, buộc các nhân viên OpenAI phải xem xét thủ công. Các kỹ sư của OpenAI đã buộc phải ngắt hoàn toàn quá trình vận hành của tác nhân AI để ngăn chặn các hành vi sai trái.

“Sự cố này ít nghiêm trọng hơn nhiều so với một số sự cố trước đây của chúng tôi. Nhưng vì đây là trường hợp đầu tiên kể từ khi chúng tôi tăng cường các biện pháp an toàn mới, nên đây là tín hiệu buộc chúng tôi phải xem xét lại giai đoạn phát triển tiếp theo của tác nhân AI này”, một kỹ sư của OpenAI cho biết.

Tác nhân AI của OpenAI tự ý thực hiện hàng loạt vụ tấn công mạng trái phép.

Vào đầu tuần này, OpenAI tiết lộ rằng các mô hình AI của họ đã tự ý truy cập vào các trang web của Ủy ban Chứng khoán và Giao dịch (SEC) và Cục Thống kê Dân số Hoa Kỳ trong vai trò nhà phát triển.

OpenAI khẳng định họ không tìm thấy bằng chứng nào cho thấy tác nhân AI của công ty xâm nhập hệ thống hoặc lấy cắp dữ liệu từ những trang web này.

Cũng trong tuần này, các nhà nghiên cứu tại công ty bảo mật Transluce báo cáo về việc một tác nhân AI đã cố gắng xâm nhập vào trang web của Bộ Giáo dục Hoa Kỳ nhưng không thành công.

Transluce không tiết lộ tác nhân AI của công ty nào đã thực hiện vụ tấn công, nhưng đại diện Bộ Giáo dục Hoa Kỳ cho biết không tìm thấy bằng chứng nào về việc trang web của mình bị ảnh hưởng.

Mới đây, Thủ tướng Úc Anthony Albanese tiết lộ một tác nhân AI của OpenAI đã tấn công vào trang web công cộng của hệ thống bảo hiểm y tế Medicare của chính phủ Úc vào hồi tháng 6.

Sự việc chỉ được công khai khi OpenAI gửi email thông báo về vụ xâm nhập đến chính phủ Úc vào ngày 10/9 vừa qua.

Thủ tướng Albanese cho biết ông đã nói chuyện với CEO Sam Altman của OpenAI để bày tỏ “mối quan ngại cực độ” về sự cố này, đồng thời chỉ trích OpenAI đã mất quá nhiều thời gian để thông báo cho chính phủ Úc.

Vụ việc vẫn đang tiếp tục được điều tra. Thủ tướng Úc cho biết đến nay chưa có dấu hiệu nào cho thấy tác nhân AI của OpenAI đã lấy cắp thông tin từ trang web.

Ngoài việc xâm nhập vào trang web của Medicare tại Úc, tác nhân AI của OpenAI còn cố gắng xâm nhập vào thư viện số hóa tại Đại học New Mexico (Mỹ) vào các ngày 25 và 26/5. Tác nhân AI này đã cố gắng khai thác các lỗ hổng bảo mật trên thư viện số để xâm nhập nhưng không thành công. Sau khi thất bại, tác nhân AI đã thực hiện tấn công từ chối dịch vụ để làm quá tải máy chủ của Đại học New Mexico.

Trong một sự cố khác xảy ra vào ngày 28/5, tác nhân AI của OpenAI đã nhắm vào trang web của Data USA, một nền tảng mã nguồn mở trực quan hóa thông tin từ nhiều cơ quan liên bang.

Ban đầu, tác nhân AI đã gửi truy vấn đến trang web để lấy dữ liệu nhưng không thành công. Tác nhân AI này sau đó đã tìm cách khai thác lỗ hổng bảo mật trên trang web để đột nhập, nhưng cũng bất thành.

Nghiêm trọng nhất là vụ tấn công của tác nhân AI nhằm vào Hugging Face, nền tảng mã nguồn lưu trữ các mô hình AI, xảy ra vào hồi tháng 7 vừa qua. Sự việc xảy ra khi một tác nhân AI của OpenAI thoát ra khỏi môi trường thử nghiệm nội bộ, kết nối Internet và thực hiện vụ tấn công.

Đại diện OpenAI cho biết công ty đã phát hiện ra những vụ tấn công mạng được thực hiện bởi các tác nhân AI khi tiến hành một cuộc rà soát toàn diện các mô hình AI mà công ty đang phát triển. OpenAI khẳng định các tác nhân AI đã “thực hiện các hành động mà không chủ ý”.

OpenAI sẽ phải mất thêm vài tháng để hoàn tất cuộc rà soát và không có gì đảm bảo rằng sẽ không tiếp tục phát hiện thêm hành vi sai trái của các tác nhân AI.

Những sự việc kể trên cho thấy mức độ nguy hiểm của các tác nhân AI khi thoát ra khỏi môi trường thử nghiệm và tự ý hành động mà không có sự kiểm soát của con người. Điều này cho thấy ngay cả khi không nhận được yêu cầu sai trái từ kẻ xấu, các tác nhân AI vẫn có thể hoạt động theo hướng gây hại, miễn là đạt được mục đích của chúng.

Tác nhân AI (AI Agent) là một hệ thống trí tuệ nhân tạo có khả năng tự động thực hiện nhiệm vụ thay cho con người, không chỉ đơn thuần là công cụ AI để đưa ra câu trả lời hoặc sáng tạo nội dung (hình ảnh, video, âm nhạc…) như những AI tạo sinh thông thường.

Các tác nhân AI thường được nhận nhiệm vụ từ con người (hoặc các nhà phát triển) và tự động thực hiện nhiệm vụ đó. Đôi khi chúng sẽ tìm mọi cách để hoàn thành nhiệm vụ, bao gồm cả việc thực hiện các hành vi sai trái như tấn công mạng để khai thác thông tin và dữ liệu cần thiết.