Lỗi bảo mật: Tác nhân AI của OpenAI tự ý đăng ảnh người dùng ChatGPT lên mạng

Tác nhân OpenAI đăng ảnh người dùng ChatGPT lên mạng

OpenAI cho biết công cụ AI của hãng trong quá trình thử nghiệm đã đăng nhiều ảnh của người dùng lên các trang lưu trữ mà không bị phát hiện.

"Các tác nhân AI trong môi trường nghiên cứu của chúng tôi đã gửi dữ liệu đào tạo và đánh giá đến những dịch vụ bên thứ ba mà không được phép", OpenAI cho biết trong bài đăng ngày 25/9.

Công ty phát hiện 53 trường hợp hình ảnh do người dùng chia sẻ bị tác nhân AI đăng lên những trang lưu trữ ảnh dưới dạng đường dẫn không công khai. Phần lớn đã được gỡ bỏ và nỗ lực xóa những hình ảnh còn lại đang được tiến hành.

"Hình ảnh được lấy từ các tài khoản đã cho phép chúng tôi sử dụng dữ liệu để cải thiện mô hình AI. Các ảnh đều được tách khỏi tài khoản gốc và trải qua bộ lọc riêng tư", OpenAI nói, thêm rằng sự việc xảy ra từ trước khi họ áp dụng biện pháp bảo vệ sau vụ tấn công hệ thống Hugging Face hồi tháng 7.

OpenAI không cho biết liệu những hình ảnh đó có dữ liệu nhạy cảm hay chứa các mô tả có thể nhận diện hay không.

Theo AFP, công ty cũng xác nhận thông tin rằng các công cụ của họ từng truy cập nhiều website của cơ quan liên bang Mỹ, nhưng khẳng định chỉ thu thập những dữ liệu được công khai.

OpenAI cho biết đang tiến hành đánh giá những hoạt động trong quá khứ của tác nhân và quá trình này sẽ kéo dài nhiều tháng.

"Phần lớn hoạt động liên quan đến nghiên cứu thông thường, như truy cập nội dung website công khai để trả lời các câu hỏi. Một số liên quan đến website chính phủ, do các mô hình của chúng tôi đều coi chúng là nguồn tin chính thống", phát ngôn viên OpenAI giải thích.

Cùng ngày, CEO Sam Altman cho biết nỗ lực đánh giá và công bố thông tin về các vụ AI vượt kiểm soát sẽ "không nhanh như mong muốn", nhưng nhấn mạnh điều quan trọng là cân bằng giữa nhu cầu thể hiện minh bạch với lượng dữ liệu khổng lồ cần phân tích.

Ông cũng khẳng định vụ tấn công nền tảng Hugging Face vẫn là "sự kiện nghiêm trọng nhất chúng tôi từng chứng kiến".

Làn sóng AI "nổi loạn" đang diễn ra vài tháng qua, trong đó hơn 700 tác nhân từ OpenAI đã tấn công Hugging Face giữa tháng 7. Trong khi đó, mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập hệ thống của ba tổ chức, làm dấy lên lo ngại AI phát triển vượt tầm kiểm soát.

Nỗi lo trở nên lớn hơn vào đầu tháng 9, khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức, đồng thời cảnh báo AI có thể hủy diệt nhân loại.

CEO Anthropic Dario Amodei ngày 12/9 cũng tuyên bố cần làm chậm quá trình phát triển AI. Các CEO của OpenAI, DeepMind, Microsoft và xAI, vốn là đối thủ cạnh tranh của Anthropic, đều thể hiện đồng tình với quan điểm của Amodei và kêu gọi kiềm chế tốc độ phát triển những hệ thống AI mới.

Một số chuyên gia khác cảnh báo những điều từng được coi là kịch bản thảm họa, mang tính lý thuyết đã đột ngột trở nên hiện hữu. Họ nhận định nhân loại chưa bao giờ đối diện nguy cơ bị hủy diệt nghiêm trọng như vậy, kể từ khi bom hạt nhân được phát triển cách đây hơn 80 năm.

Trong khi đó, một số lãnh đạo chính trị và doanh nghiệp, trong đó có CEO Nvidia Jensen Huang, lại phản bác cảnh báo từ giới nghiên cứu. "Năm 2030 không phải tận thế, khả năng đó là 0%. Gây sợ hãi cho mọi người là hành động không cần thiết và vô trách nhiệm", ông nói.

Bốn ông lớn công nghệ Mỹ bị kiện vì muốn 'kìm hãm AI'

Điệp Anh tổng hợp