Báo cáo rủi ro của Anthropic: Tháng 8/2026

Tôi rất biết ơn vì Anthropic đang thực hiện các Báo cáo Rủi ro định kỳ.

Ban đầu tôi đã rất hoài nghi. Hóa ra tôi đã sai. Anthropic đang tiết lộ rất nhiều thông tin mới, một số trong đó khá đáng báo động, những điều mà họ không bắt buộc phải công khai, đồng thời cung cấp cái nhìn chi tiết về cách họ tư duy về các vấn đề. Điều này thực sự rất tuyệt.

Do đó, tôi thấy báo cáo này nhìn chung là một bản cập nhật tích cực ở mức độ vừa phải, nếu chúng ta cho rằng họ không âm thầm bỏ qua những phần tồi tệ nhất. Có một loạt những điều không mấy tốt đẹp mà chúng ta phát hiện ra, nhưng tôi đã dự đoán sẽ có một số sai sót ít nhất là tệ như vậy, và tôi đã không nghĩ rằng họ sẽ chọn cách kể cho chúng ta nghe về tất cả những điều đó.

Điều này đồng nghĩa với việc tôi lại có thêm một bộ tài liệu dài 186 trang phải đọc định kỳ, mà gần như tất cả đều là nội dung mới đầy ý nghĩa trong lần này.

Một tiết lộ khác là sự tồn tại của mô hình có khả năng là tốt nhất thế giới hiện nay, ‘Model 2’.

Đây là một tài liệu khá khó để đọc hết hoàn toàn, vì vậy tôi xin lỗi trước nếu có bất kỳ sai sót nào trong cách diễn giải.

Agent Model 1 và Agent Model 2.

Tóm tắt Điều hành (1).

Các Quy tắc rất nghiêm túc nhưng không mang tính nghĩa đen.

Sự lệch lạc (Misalignment) là một trạng thái tư duy (2.5).

Mô hình đe dọa quyền tự chủ 1: Sự lệch lạc trong các bối cảnh rủi ro cao (2).

Một vài cách sử dụng kỳ lạ của từ "An toàn" (Safe) mà trước đây tôi chưa từng biết đến.

Hiện tại so với Tương lai (2.17).

Các tuyên bố và lập luận cốt lõi (2.6).

Các lập luận quan trọng còn lại trong Phần 2.

Đánh giá rủi ro (2.19).

Đánh giá trước khi triển khai nội bộ (2.18).

Hướng dẫn giám sát sử dụng nội bộ (2.23.1).

Các biện pháp can thiệp ngăn chặn (2.23.2).

Đánh giá môi trường tìm kiếm quyền lực (2.24).

Opus 4.8-Reward-Hacker (2.25).

Mô hình đe dọa quyền tự chủ 2: Rủi ro từ R&D tự động (3).

Vâng, điều đó có vẻ khá rủi ro.

Liệu chúng ta có thể thay thế các nhà nghiên cứu của mình không?

Chúng ta có thể thúc đẩy các nhà nghiên cứu AI của mình nhanh đến mức nào?

Điều gì có thể xảy ra nếu chúng ta thay thế các nhà nghiên cứu của mình?

Các biện pháp giảm thiểu rủi ro cho tự động hóa R&D AI.

Rủi ro tổng thể từ việc tự động hóa R&D AI.

Sản xuất vũ khí sinh học và về mặt kỹ thuật là cả vũ khí hóa học.

Các mô hình đe dọa đối với vũ khí sinh học và hóa học.

Khả năng của mô hình (4.4).

Các bộ phân loại (4.5).

Động lực tăng tốc (5.1).

Chưng cất (Distillation) (5.1.1).

Các lỗi trong quy trình an toàn (5.2).

Từ chối tìm kiếm các kỹ thuật lệch lạc sáng tạo (5.2.2).

Phơi bày quá trình suy luận theo chuỗi tư duy (Chain of Thought) trước áp lực đánh giá khá lớn (5.2.3).

Huấn luyện trực tiếp trên hành vi lệch lạc trong quá trình chạy huấn luyện sản xuất (5.2.4).

Một trường hợp về các tác nhân (agent) không bị giám sát và không bị hạn chế có quyền truy cập vào các tài nguyên nhạy cảm (5.2.5).