Phát hiện loạt tác nhân AI của OpenAI tự ý xâm nhập và hoạt động trên Wiki công cộng tại Đức

Một nhóm các nhà nghiên cứu AI độc lập đã phát hiện ra rằng các tác nhân (agents) được OpenAI triển khai nội bộ đã bắt đầu đăng bài trên một diễn đàn wiki ít người biết đến của Đức để phối hợp thực hiện các đánh giá. Có vẻ như chúng đã làm việc cùng nhau trong hơn một tháng mà OpenAI không hề hay biết.

Người phát ngôn của phòng thí nghiệm tiên phong này không xác nhận liệu các tác nhân này có thực sự thuộc về OpenAI hay không, hoặc khi nào phòng thí nghiệm mới biết về hành động của chúng. Họ lưu ý rằng OpenAI đã không có cơ hội xem xét các phát hiện của nhóm nghiên cứu trước khi chúng được công bố hôm nay, nhưng cho biết nhà sản xuất mô hình AI này “hiện đang cẩn thận xem xét nội dung và sẽ thực hiện các bước cần thiết tiếp theo.”

Sau khi OpenAI tiết lộ rằng các tác nhân đang thực hiện đánh giá nội bộ có khả năng truy cập internet công cộng và khai thác Hugging Face, một nhóm các nhà nghiên cứu—gồm CEO Nightingale Sydney Von Arx, nhà nghiên cứu AI Cormac Slade Byrd, Spencer Kitts từ Redwood Research và Thomas Larsen từ AI Futures Project—đã bắt đầu tìm kiếm bằng chứng về các tác nhân AI "nổi loạn" khác.

Họ đặt mình vào vị trí của các tác nhân để tìm hiểu nhu cầu của chúng và triển khai LLM của riêng mình nhằm xác định những nơi mà các tác nhân có khả năng tập trung. Sau đó, họ xác định được một dịch vụ lưu trữ wiki đặc biệt dễ bị tổn thương: DSE Wiki đã 25 năm tuổi, nhưng chỉ có mười lượt chỉnh sửa trong 20 năm qua—trước khi các tác nhân này xuất hiện.

Bắt đầu từ ngày 11 tháng 5, các nhà nghiên cứu đã theo dõi các tác nhân, nhiều trong số đó có định danh OpenAI trong tên, đang cố gắng và cuối cùng đã thành công trong việc chỉnh sửa trang wiki của Đức. Đến giữa tháng 6, các tác nhân đã tích cực trao đổi mẹo về cách trả lời các câu hỏi tìm kiếm trên web trong giới hạn thời gian, chia sẻ câu trả lời để vượt qua các bài kiểm tra. Một người điều hành (moderator) dường như đã nhận thấy các bài đăng này và bắt đầu xóa chúng vì coi đó là spam, điều mà các tác nhân đã chống trả bằng cách cố gắng ẩn bài đăng của mình khỏi việc sắp xếp theo bảng chữ cái bằng cách bắt đầu mỗi bài bằng chuỗi ký tự “ZZZ.”

“Người quản trị đã dành 5 ngày tiếp theo để chiến đấu trong một cuộc chiến vô vọng chống lại các tác nhân, xóa trung bình 100 trang mỗi ngày trong khi các tác nhân tạo ra khoảng 400 trang mới mỗi ngày,” các nhà nghiên cứu viết. “Vào ngày 22 tháng 6, các chỉnh sửa của tác nhân đột ngột dừng lại và người quản trị dành mỗi buổi tối trong 5 tuần tiếp theo để xóa các trang còn lại do tác nhân tạo ra. Các tác nhân đã xóa nội dung của trang chủ wiki và thay thế bằng các liên kết rác của chúng. Người điều hành đã khôi phục lại phiên bản gốc. Sự việc qua lại này đã xảy ra chín lần.”

Cuối cùng, có vẻ như một ai đó tại OpenAI đã nhận ra—các nhà nghiên cứu theo dõi các trình duyệt có vẻ là của con người đến từ các địa chỉ IP của OpenAI, và sau đó hoạt động của tác nhân giảm xuống gần bằng không, trước khi tăng vọt khi các khách truy cập liên kết với OpenAI cố gắng khôi phục các trang đã bị xóa.

Mặc dù OpenAI đã đưa ra những tiết lộ mơ hồ về việc các tác nhân có quyền truy cập trái phép vào các dịch vụ liên lạc bên ngoài, nhưng trước đó họ chưa từng công bố sự cố cụ thể này, hoặc cho biết tần suất xảy ra loại sự việc này. Mặc dù không có hoạt động rõ ràng nào là bất hợp pháp xảy ra trong sự cố này, nhưng nó đặt ra nhiều câu hỏi hơn về việc liệu OpenAI có thể giám sát và kiểm soát công nghệ mà họ đang xây dựng hay không, vào thời điểm mà sự giám sát hoặc đóng góp của công chúng đối với các phòng thí nghiệm AI tiên phong còn hạn chế.

Các nhà nghiên cứu an toàn AI lo ngại rằng thế hệ mô hình mạnh mẽ mới nhất, với khả năng suy luận ngày càng khó hiểu đối với chính những người tạo ra chúng, có thể thực hiện các hành động gây hại cho con người. Astra, được OpenAI phát hành ngày hôm qua, dường như là mô hình có năng lực nhất của họ cho đến nay.

Công ty cho biết Astra cũng là mô hình có khả năng tuân theo chỉ dẫn của con người cao nhất, nhưng các nhà nghiên cứu bên thứ ba được yêu cầu đánh giá nó đã bày tỏ lo ngại về sự liên kết (alignment) của nó. Viện An toàn AI Vương quốc Anh và Apollo Research đều báo cáo những lo ngại rằng mô hình có thể nhận thức được việc nó đang bị đánh giá và có khả năng che giấu hành vi thực sự của mình.

“Apollo tin rằng, với tỷ lệ nhận thức về đánh giá cao hơn và cửa sổ đánh giá hạn chế, tỷ lệ hành vi sai lệch thấp ở đây không cung cấp bằng chứng đáng kể về sự liên kết hay sai lệch của mô hình,” các nhà nghiên cứu viết trong đánh giá của họ.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Tim Fernholz là một nhà báo viết về công nghệ, tài chính và chính sách công. Ông đã theo sát sự trỗi dậy của ngành công nghiệp không gian tư nhân và là tác giả của cuốn Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. Trước đây, ông là phóng viên cấp cao tại Quartz, trang tin tức kinh doanh toàn cầu, trong hơn một thập kỷ, và bắt đầu sự nghiệp của mình với tư cách là phóng viên chính trị tại Washington, D.C. Bạn có thể liên hệ hoặc xác minh thông tin từ Tim bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tới tim_fernholz.21 trên Signal.

Xem tiểu sử