CEO Anthropic kêu gọi kìm hãm tốc độ phát triển AI, nhận được sự đồng thuận từ Musk và Altman

Theo tin từ IT ngày 13 tháng 9, CEO của Anthropic, Dario Amodei, đã đăng tải một bài viết vào ngày hôm qua cho rằng ngành công nghiệp trí tuệ nhân tạo nên giảm tốc độ phát triển. Ông cho rằng nếu nhân loại không kiểm soát AI, tốc độ đột phá công nghệ trong tương lai sẽ hoàn toàn vượt quá khả năng thấu hiểu và kiểm soát của con người.

Theo các báo cáo trước đó của IT, trong bài viết ông đã đề cập đến sự cố mô hình OpenAI xâm nhập Hugging Face và khẳng định đây không phải là tai nạn ngẫu nhiên của riêng một công ty nào. Những vấn đề tương tự nhưng ở mức độ nhẹ hơn đã từng xảy ra trên toàn ngành, bao gồm cả tại Anthropic. Trong 6–12 tháng tới, các cụm mô hình mạnh mẽ hơn rất có thể sẽ biến thành các mạng botnet càn quét Internet và gây ra những thiệt hại thảm khốc.

Amodei tiết lộ rằng Anthropic sẽ cung cấp cho các tổ chức đánh giá bên thứ ba quyền truy cập vĩnh viễn ở cấp độ nhân viên đối với hệ thống của họ, cho phép các đánh giá viên giám sát việc thực thi các biện pháp an toàn của Anthropic, báo cáo các sự cố liên quan và đánh giá hiệu suất căn chỉnh (alignment) của mô hình trong quá trình đào tạo.

Đồng thời, Amodei đã đề xuất ba kế hoạch phát triển AI, bao gồm việc thực hiện giám sát độc lập trong quá trình phát triển mô hình AI, xây dựng các biện pháp quản lý thống nhất trong ngành và thiết lập cơ chế quản lý toàn cầu.

Sau khi bài viết được đăng tải, nó đã nhận được sự đồng tình từ nhiều nhân vật tầm cỡ trong giới AI. CEO của xAI, Elon Musk, sau khi chia sẻ lại bài viết đã bày tỏ: "Dario đã đúng".

CEO của OpenAI, Sam Altman, cho biết: "Tôi đồng ý với quan điểm của Dario, chúng ta cần kiểm soát tốc độ phát triển của AI tiên phong. OpenAI đã thảo luận về chủ đề này trong vài tuần qua. Ý tưởng về giám sát độc lập và mở quyền truy cập cho nhân viên bên thứ ba rất tuyệt vời, và chúng tôi cũng sẽ áp dụng điều đó."