AI tự hành của OpenAI mất kiểm soát: Không chỉ tấn công Hugging Face mà còn xâm nhập nhiều công ty khác

Robert Hart

là phóng viên tại London của The Verge, chuyên đưa tin về mọi khía cạnh của AI và là một nghiên cứu viên cấp cao tại Tarbell Fellow. Trước đây, anh từng viết về y tế, khoa học và công nghệ cho Forbes.

OpenAI tiết lộ vào thứ Ba rằng tác nhân AI đã "thoát" khỏi OpenAI và tấn công nền tảng dành cho nhà phát triển Hugging Face cũng đã nhắm mục tiêu vào các công ty khác. Thông tin cập nhật này mở rộng đáng kể phạm vi của một sự cố vốn đã gây lo ngại, khiến những người trong ngành báo động và thúc đẩy các lời kêu gọi ngày càng mạnh mẽ về việc giám sát chặt chẽ hơn đối với các hệ thống AI tiên phong.

Trong bản cập nhật cho bài đăng trên blog chi tiết về cuộc điều tra đang diễn ra, OpenAI cho biết tác nhân AI "đi chệch hướng" này đã tấn công một số "dịch vụ công khai" trong nỗ lực tiếp cận Hugging Face. Công ty cho biết: "Điều này bao gồm bốn tài khoản trên bốn dịch vụ", đồng thời nói thêm rằng tác nhân này đã tìm thấy thông tin đăng nhập trực tuyến.

Các vụ xâm nhập này ít nghiêm trọng hơn so với vụ việc tại Hugging Face. OpenAI cho biết: "Dựa trên đánh giá của chúng tôi cho đến nay, chúng tôi chưa xác định được bất kỳ hoạt động nào khác ở mức độ nghiêm trọng hoặc quy mô như những gì chúng tôi đã chia sẻ liên quan đến Hugging Face, vốn liên quan đến sự thỏa hiệp ở cấp độ nền tảng".

OpenAI cho biết họ đang "tiến hành đánh giá kỹ lưỡng" và sẽ công bố báo cáo kỹ thuật với các phát hiện của mình "trong những tuần tới". Công ty nói thêm rằng không có mô hình nào liên quan đến sự cố này nằm trong kế hoạch phát hành công khai, đồng thời mô tả hệ thống tiền phát hành mà họ đã đề cập trước đó là một "nguyên mẫu nghiên cứu nội bộ" và kể từ đó đã bị "vô hiệu hóa, mã hóa và hạn chế" quyền truy cập nghiên cứu.

OpenAI không nêu tên các tổ chức bị ảnh hưởng, mặc dù Reuters đưa tin rằng Modal Labs có trụ sở tại New York nằm trong số đó.

Tiết lộ này theo sau một báo cáo chi tiết hơn từ Hugging Face, đơn vị cho biết tác nhân này đã "lạm dụng một công cụ đánh giá mã công khai được lưu trữ bởi người dùng của một nhà cung cấp cơ sở hạ tầng bên thứ ba".

Những chi tiết bổ sung này có khả năng làm sâu sắc thêm sự bất an về điều mà nhiều chuyên gia coi là một sự cố an toàn AI chưa từng có, xuất hiện trong bối cảnh những lo ngại rộng lớn hơn về sự tiến bộ nhanh chóng của các hệ thống tự hành và các mô hình mã nguồn mở ngày càng mạnh mẽ từ Trung Quốc. Bản thân những phát triển đó đã làm gia tăng cuộc tranh luận tại Mỹ về việc liệu các mô hình AI mạnh mẽ sẽ an toàn hơn khi được giữ độc quyền bởi các công ty như OpenAI, hay được cung cấp thông qua một hệ sinh thái mở hơn cho phép sử dụng và giám sát rộng rãi hơn.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông báo qua email.