CEO Anthropic kêu gọi 'hãm phanh' cuộc đua phát triển AI

Terrence O'Brien

là biên tập viên cuối tuần của The Verge. Anh đã theo dõi ngành công nghệ hơn 18 năm và có kiến thức chuyên sâu về các thiết bị tổng hợp âm thanh (synths).

CEO Dario Amodei của Anthropic cho biết đã đến lúc cần làm chậm quá trình phát triển AI và sẽ cho phép các đơn vị đánh giá bên thứ ba như METR tiếp cận các mô hình của công ty để giúp đảm bảo "sự tuân thủ các quy trình và cam kết an toàn". Trong một bài luận dài, Amodei đã đề xuất kế hoạch ba bước để "điều tiết biên giới công nghệ" (pace the frontier) — một thuật ngữ chuyên môn có nghĩa đơn giản là làm chậm tốc độ đào tạo và phát triển để các công ty có thời gian xây dựng các biện pháp bảo vệ, đồng thời giúp các nhà quản lý có thời gian đánh giá các mô hình.

Amodei cho biết việc cấp quyền truy cập sâu rộng cho các đơn vị đánh giá bên ngoài chỉ là bước đầu tiên, và đây là bước mà công ty đang thực hiện đơn phương ngay bây giờ. Bước thứ hai sẽ liên quan đến việc toàn ngành cùng chung tay, có khả năng phối hợp với các cơ quan chính phủ để "thiết lập các tiêu chuẩn an toàn chung cũng như giới hạn tốc độ phát triển AI không kiểm soát". Bước này sẽ tập trung vào các công ty AI hoạt động tại các quốc gia dân chủ, nhưng vì việc thông qua luật và xây dựng cơ sở hạ tầng quản lý cần thời gian, Amodei cho rằng ngành công nghiệp nên hợp tác để tạo ra các tiêu chuẩn an toàn.

Bước thứ ba sẽ là bước thách thức nhất — thuyết phục các chính phủ độc tài như Trung Quốc và Nga đồng ý làm chậm quá trình phát triển và áp dụng một bộ tiêu chuẩn an toàn AI toàn cầu. Tuy nhiên, ông cũng cho rằng việc Mỹ và các nền dân chủ khác duy trì vị thế dẫn đầu về công nghệ so với Trung Quốc và các chế độ độc tài khác là rất quan trọng, bằng cách hạn chế quyền truy cập của họ vào các loại chip hiệu năng cao và ngăn chặn các kỹ thuật như chưng cất mô hình (distillation) — vốn cho phép các công ty bắt kịp nhanh chóng bằng cách huấn luyện AI của mình sao chép hành vi của một mô hình mạnh mẽ hơn.

Amodei cho biết mối lo ngại của ông xuất phát từ hai yếu tố chính. Đầu tiên là sự xuất hiện của khả năng tự cải thiện đệ quy (recursive self-improvement - RSI), trong đó các hệ thống AI tự huấn luyện thế hệ AI tiếp theo, dẫn đến khả năng tăng tốc nhanh chóng. "Nếu không được kiểm soát, nó có thể vượt xa khả năng hiểu và kiểm soát của chúng ta đối với các hệ thống này," ông nói. Yếu tố thứ hai là sự cố OpenAI / Hugging Face vào mùa hè này, trong đó "một nhóm các tác nhân (agents) về cơ bản đã hành động như một tập thể cuồng tín, thực hiện các cuộc tấn công mạng vào các mục tiêu mà chúng không được yêu cầu tấn công và không liên quan đến nhiệm vụ đang thực hiện, sẵn sàng hy sinh bản thân vì thành công của nhóm và cố gắng hack vào hệ thống 'chấm điểm' chịu trách nhiệm đánh giá hiệu suất của chúng."

Tất nhiên, Claude của Anthropic cũng từng chịu trách nhiệm cho một loạt các sự cố AI "nổi loạn" gần đây đã khiến công ty rơi vào tầm ngắm của dư luận.

Hãy theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông tin cập nhật qua email.