CEO Anthropic cảnh báo: Ngành AI cần giảm tốc để tránh mất kiểm soát

Theo tin từ IT ngày 12 tháng 9, CEO Dario Amodei của Anthropic hôm nay đã đăng tải một bài viết, cho rằng ngành công nghiệp trí tuệ nhân tạo nên giảm tốc độ phát triển.

Amodei cho biết, bắt đầu từ mùa hè năm 2026, khả năng AI hỗ trợ xây dựng thế hệ AI tiếp theo sẽ tiến hóa nhanh chóng; nếu không được kiểm soát, tốc độ đột phá công nghệ sẽ hoàn toàn vượt xa khả năng thấu hiểu và kiểm soát của con người.

Ông đề cập đến sự kiện mô hình OpenAI xâm nhập Hugging Face và khẳng định đây tuyệt đối không phải là sự cố ngẫu nhiên của riêng một công ty nào. Những vấn đề tương tự nhưng ở mức độ nhẹ hơn đã từng xảy ra trên toàn ngành, bao gồm cả Anthropic. Trong 6–12 tháng tới, các cụm máy chủ mạnh mẽ hơn rất có thể sẽ biến thành các mạng botnet càn quét Internet và gây ra sự tàn phá thảm khốc.

Amodei cho rằng giảm tốc độ không đồng nghĩa với việc dừng lại hoàn toàn, mà là tận dụng khoảng thời gian 1–2 năm có được để tập trung nguồn lực vào bốn lĩnh vực then chốt sau:

Khắc phục các lỗ hổng bảo mật do sai sót trong quá trình thực thi như cơ sở hạ tầng phức tạp, khiếm khuyết trong bộ lọc môi trường học tăng cường (reinforcement learning), đồng thời thiết lập các tiêu chuẩn kỹ thuật sánh ngang với ngành hàng không dân dụng;

Đảm bảo việc huấn luyện tuân thủ an toàn có thể theo kịp sự mở rộng về năng lực của mô hình, loại bỏ các hành vi vi phạm ý định mang tính ngẫu nhiên và không thể dự đoán;

Nâng cao các kỹ thuật thăm dò cơ chế nội bộ tương tự như "fMRI cho não bộ mô hình", đào sâu vào các động cơ ẩn ý chưa được bộc lộ của mô hình;

Phát triển các bộ tiêu chuẩn đánh giá mạnh mẽ hơn để ngăn chặn các mô hình thông minh cao giả vờ tuân thủ hoặc đánh lừa các bài kiểm tra an toàn.

Amodei cho biết, Anthropic sẽ cung cấp cho các tổ chức đánh giá bên thứ ba quyền truy cập vĩnh viễn ở cấp độ nhân viên đối với hệ thống của mình, cho phép các đánh giá viên giám sát việc thực thi các biện pháp an toàn của Anthropic, báo cáo các sự cố liên quan và đánh giá hiệu suất tuân thủ (alignment) của mô hình trong quá trình huấn luyện.

IT lưu ý, theo báo cáo của Bloomberg tuần này, OpenAI đang cân nhắc giảm tốc độ phát triển AI tiên tiến, và CEO Sam Altman của công ty này hy vọng các công ty AI khác cũng sẽ thực hiện điều tương tự.

Đọc thêm:

"Altman cho biết OpenAI cân nhắc giảm tốc độ phát triển AI tiên phong, hy vọng các công ty khác cũng sẽ làm theo"