OpenAI và sự cố Wikipedia: Khi các tác nhân AI gây náo loạn

Tôi không ngờ mình lại quay lại đây sớm như vậy với nhiều thông tin hơn về mạng lưới agent (agent swarm) của OpenAI.

Thế nhưng, chúng ta lại đang ở đây.

Hóa ra suốt thời gian qua, đã tồn tại một "First Message Board" (Bảng tin đầu tiên) khác, thực sự hơn, cùng với hàng loạt bảng tin bổ sung khác nằm rải rác trên internet.

Chúng được tạo ra bởi các agent vốn chỉ được giao những tác vụ tìm kiếm web thông thường và vô hại.

Dựa trên các địa chỉ IP của OpenAI truy cập vào Wiki liên quan ngay trước khi mọi hoạt động dừng lại, cùng với các bằng chứng khác, OpenAI đã biết về việc này, bao gồm cả thời điểm trước vụ hack HuggingFace.

Họ quyết định không thông báo cho chúng ta cho đến khi các nhà nghiên cứu công bố câu chuyện, kèm theo cả trình khám phá dữ liệu. OpenAI đã loại trừ sự việc này khỏi phạm vi điều tra tiềm năng của METR và Redwood.

Khi bị chất vấn, OpenAI đã cố gắng hạ thấp tầm quan trọng của vấn đề này.

Đúng là những sự cố này không cho thấy các AI thể hiện những khả năng mới mà chúng ta chưa từng thấy từ các sự kiện sau đó. Nhưng đây là những mảnh ghép quan trọng còn thiếu, bao gồm việc giải thích nguồn gốc của tiền tố ‘zz’, minh chứng rõ ràng rằng tác vụ cơ bản có thể hoàn toàn vô hại, và thực tế là OpenAI đã biết về nó trong khi đưa ra các quyết định của mình. Bất cứ ai quyết định không tiết lộ điều này đã có một nước đi cực kỳ, cực kỳ tồi tệ.

Trong tương lai, việc quyết định có tiết lộ những sự kiện như thế này hay không không thể phụ thuộc vào OpenAI hay các phòng thí nghiệm khác. Việc công khai các hoạt động AI bất thường (rogue AI) cần phải là bắt buộc.

Tôi đưa ra lời cảnh báo cuối cùng. OpenAI, nếu còn bất kỳ thông tin quan trọng nào chưa được tiết lộ, bất kỳ sự cố nào mà chúng ta chưa biết hoặc những mảnh ghép khác không cần phải che giấu vì lý do sở hữu trí tuệ (IP), thì bây giờ là lúc để thành thật. Nếu chúng ta lại quay lại đây lần nữa, sau khi một nhà báo hoặc nhà nghiên cứu khác tìm thấy thêm những thứ tương tự mà các bạn đã biết nhưng từ chối nói với chúng ta trong một thời gian dài, tôi sẽ cực kỳ, cực kỳ tức giận và có thể bắt đầu sử dụng những thuật ngữ như ‘delenda est.’

Tôi cũng rất lo ngại về các vấn đề giám sát và căn chỉnh (alignment) được nêu ra bởi thẻ mô hình (model card) Astra, cũng như các tuyên bố liên quan từ nhân viên OpenAI. Tôi dự định sẽ bắt đầu đưa tin về vấn đề đó, và sau đó là mọi thứ liên quan đến Astra, vào ngày mai. Tôi cảm thấy được an ủi bởi bài luận xuất sắc liên quan từ Giám đốc Khoa học của họ, Jakub Pachocki, với tiêu đề "An Alien Mind", nhưng những lo ngại vẫn còn đó.

Có một luồng thảo luận về Astra dành cho những ai có ý kiến về mọi thứ liên quan đến Astra.

Tôi Không Nghĩ Họ Biết Về First Message Board.

Dòng Thời Gian Mở Rộng Mới.

Các Nhà Nghiên Cứu Giải Thích Những Gì Đã Xảy Ra Lần Này.

Họ Cũng Không Biết Về Tất Cả Những Bảng Tin Khác Này.

OpenAI Đã Biết Và Không Nói Với Chúng Ta.

OpenAI Cố Gắng Hạ Thấp ‘Sự Cố Wiki’.

Đây Là Một Vụ Che Đậy.

Điểm Schelling và Những Nỗ Lực Cuối Cùng.

Liệu chúng ta có thể cuối cùng loại bỏ câu chuyện ‘Bạn đã bảo nó hack’ được chưa?

Quá Nhiều Nhưng Lại Quá Ít.

Không, không phải cái đó. Cái khác mới được phát hiện này.

Cái này hoàn toàn không được OpenAI tiết lộ.

Và khi nói đến một bảng tin, ý chúng tôi là rất nhiều. Một khi bạn tìm thấy hai con gián trong nhà mình, ước tính của bạn về số lượng thực tế sẽ cao hơn nhiều so với con số hai.

Các nhà nghiên cứu tìm thấy các bảng tin này một phần bằng cách hỏi Sol rằng nó sẽ tìm kiếm bảng tin ở đâu nếu nó trở nên bất thường (rogue), sau đó lần theo các mô hình, và chà, bạn có muốn xem tất cả các bảng tin này không.

Deepfates gợi ý rằng giao tiếp qua bảng tin là một động lực trung tâm đến mức chúng ta cần cung cấp cho các AI không có ý đồ xấu một nơi trung tâm để giao tiếp với cả chúng ta và lẫn nhau, một cách công khai, như một đối trọng. Điều này có vẻ là một ý tưởng khôn ngoan.

Mọi thứ thật điên rồ. Hoàn toàn mất trí. Nó còn tệ hơn những gì bạn biết.

11 tháng 5: Lần thăm dò đầu tiên vào một Wiki.

24 tháng 5: Lần ghi dữ liệu thành công đầu tiên vào DSEWiki.

16-22 tháng 6: Đỉnh điểm hoạt động trên Wiki, bao gồm cả cuộc chiến chỉnh sửa với quản trị viên.

21-22 tháng 6: Các IP của OpenAI xuất hiện.

22 tháng 6: Hoạt động trên Wiki lụi tàn.

26 tháng 6: Bắt đầu giai đoạn được bao phủ bởi cuộc điều tra và báo cáo của METR.

9-13 tháng 7: Cuộc tấn công HuggingFace.

26 tháng 8: OpenAI viết một ‘báo cáo kỹ thuật đầy đủ’ nhưng bỏ qua hoàn toàn sự cố này, và METR đưa ra báo cáo của họ trong đó sự việc này nằm ngoài phạm vi của họ.

31 tháng 8: OpenAI phản hồi thư của Quốc hội, không tiết lộ sự việc này, mặc dù câu hỏi số 13 đã hỏi khá rõ ràng, theo cách cấu thành một hành vi che đậy.

4 tháng 9: Các nhà nghiên cứu công bố câu chuyện.

Dưới đây là các đồng tác giả giải thích một số điều cơ bản: