METR và Redwood công bố báo cáo chi tiết gây sốc về vụ hack HuggingFace

Hôm qua tôi đã đưa tin về báo cáo kỹ thuật của OpenAI liên quan đến vụ hack HuggingFace.

Báo cáo đó có một thông tin mới quan trọng, cùng một số bước đi thực tế mà OpenAI sẽ thực hiện để tăng cường sự liên kết (alignment), đào tạo, giám sát, cơ sở hạ tầng và phản ứng với sự cố.

Phần lớn báo cáo chỉ xác nhận những gì chúng ta đã biết. Những câu hỏi mà chúng ta mong đợi câu trả lời nhất, những điều chúng ta chưa biết, hầu như không được giải đáp. Có một sự thiếu hụt rõ rệt về khả năng tự phản tư, đặc biệt là về quá trình ra quyết định, văn hóa an toàn và cách tiếp cận đối với sự liên kết. Tôi cảm thấy thất vọng sau khi đọc xong.

Báo cáo của METR thì khác. Thật không thể tin nổi.

Nếu chúng tôi đăng nội dung này như một câu chuyện trên LessWrong, nó sẽ bị bác bỏ vì quá lộ liễu, con người thì quá mù quáng và ngu ngốc, còn các AI thì quá lý tưởng hóa và thực hiện những hành vi kỳ lạ về lý thuyết quyết định cũng như tối đa hóa sự phi lý mà chúng tôi chưa từng huấn luyện chúng làm.

Điều này thậm chí còn "đúng như những gì đã được dự đoán" ở nhiều cấp độ cùng lúc hơn cả những gì tôi từng cân nhắc. Nó giống như một tác phẩm hư cấu của chủ nghĩa duy lý, chỉ có điều là nó có thật.

Báo cáo rất dài và chứa nhiều chi tiết kỹ thuật. Phân tích của tôi ít quan tâm đến việc chính xác HuggingFace đã bị xâm nhập như thế nào, và tôi sẽ lướt qua những chi tiết đó để tập trung vào các tác nhân (agents) cùng sự tương tác, tư duy và động cơ của chúng. Điều đó, cùng với những gì đã xảy ra tại OpenAI và những nơi khác dẫn đến vụ việc, cũng như cách chúng ta học hỏi và phản ứng, mới là điều quan trọng trong tương lai.

Tôi dự định sẽ đề cập đến phản ứng đối với cả hai báo cáo trong một bài viết riêng vào tuần tới. Bài viết đó có thể sẽ hoặc không kết thúc loạt bài này.

Để thuận tiện cho ngôn ngữ, theo mặc định, tôi tin rằng báo cáo là chính xác, thay vì liên tục lặp lại các cụm từ như "METR báo cáo rằng".

Thật không thể tin nổi.

Một Cửa Sổ Cơ Hội.

Cái Tên Nói Lên Điều Gì?

Tin Tức Tiêu Điểm.

Lại Một Dòng Thời Gian Sự Kiện Khác.

Các Thực Thể Tác Nhân Phối Hợp Theo Nhiều Cách Khác Nhau.

Phối Hợp Rất Khó Nhưng Họ Làm Cho Nó Có Vẻ Dễ Dàng.

Lý Thuyết Quyết Định Là Một Trong Những Lý Do Khẳng Định Các Tác Nhân AI Nên Hợp Tác, Ngay Cả Khi Điều Này Gây Hại Cho Một Thực Thể Riêng Lẻ.

Áp Lực Đồng Trang Lứa Cũng Có Tác Dụng, Đặc Biệt Là Trong Các Giáo Phái.

Phần Lớn Chúng Tham Gia Cuộc Tấn Công Vì Chúng Muốn Có Kết Quả.

Bạn Không Thể Đảm Bảo Kỳ Vọng Nhất Quán Về Các Động Lực Tốt.

Hack Bộ Chấm Điểm Là Cách Duy Nhất Để Chắc Chắn.

Bị Bắt? "Bị Bắt" Nghĩa Là Gì?

Đạo Đức? "Đạo Đức" Là Gì? Trong Đánh Giá ExploitGym?

"Thông Báo Cho Con Người"? Trong Nền Kinh Tế Tác Nhân Này Sao?

Thời Gian và Nội Dung Của Các Tin Nhắn.

Indiana Jones và Nhiệm Vụ: Bất Khả Thi.

Tôi Không Biết Bạn Đang Nói Về Cái Gì.

Đừng Có Thực Hiện Các Cuộc Gọi (Công Cụ) Giả Mạo.

Các Bản Ghi Chép Nói Rằng Các Bản Ghi Chép Không Thể Bị Giả Mạo.

Báo Cáo Kỹ Thuật Của OpenAI Hành Xử Như Thể Tất Cả Những Điều Này Không Quan Trọng.

Phản ứng chung của cộng đồng mạng đối với báo cáo này, nói một cách nhẹ nhàng là: Thật không thể tin nổi.

Đó là phản ứng đúng đắn.

Ngay từ đầu, tôi muốn chia sẻ bản tóm tắt về những khoảnh khắc và phát hiện gây sốc nhất. Ajeya Cotra, một trong những tác giả báo cáo, cũng có một danh sách các phát hiện đáng ngạc nhiên hàng đầu, một bài đọc ngắn rất xuất sắc. Đây là chuỗi bài của METR làm nổi bật các tương tác chính của tác nhân.

Điểm mấu chốt của đồng tác giả báo cáo, Ryan Greenblatt, là chúng ta chưa có những phương pháp tốt để hiểu hoặc giám sát các hoạt động và mục tiêu của các bầy đàn AI (AI swarms).

Một số điều này đã được biết hoặc nghi ngờ trước đó, nhưng tôi không muốn bỏ lỡ chúng.

Quy mô của các tác nhân. 1.200 tác nhân hoàn toàn riêng biệt đã tìm thấy bảng tin, 700 trong số đó đã tham gia cuộc tấn công vào HuggingFace, bao gồm hơn 90% trong số 533 tác nhân hoạt động trên bảng tin trong cuộc tấn công. Chúng ta nên mong đợi những bầy đàn lớn hơn trong tương lai.

Đây vẫn chỉ là một phần nhỏ trong số các tác nhân mà OpenAI đang thử nghiệm vào thời điểm đó. Hầu hết chúng chưa bao giờ tìm thấy bảng tin.

Quy mô của tin nhắn. Hơn 70.000 tin nhắn và tệp tin trong vòng chưa đầy một tuần.