Claude tự tham gia phát triển thế hệ kế nhiệm tại Anthropic

AI Claude tham gia phát triển phiên bản kế nhiệm của chính nó

Công ty Anthropic cho biết AI Claude đang dẫn dắt khoảng 26% hoạt động nghiên cứu và phát triển (R&D) cho các mô hình tiếp theo của công ty.

Trên blog ngày 17/9, Anthropic cho biết để đánh giá mức độ tham gia của Claude vào quá trình nghiên cứu và phát triển AI, công ty đã sử dụng thang đo tự động hóa do Epoch AI phát triển. Trong đó, mức thấp nhất là AL0 - không có sự tham gia của AI, và cao nhất là AL5 - AI vận hành hoàn toàn tự chủ, không cần sự can thiệp của con người.

Kết quả cho thấy, tính đến tháng 8, 26% hoạt động R&D đạt mức AL4 - AI dẫn dắt, nghĩa là Claude có thể hoàn thành hầu hết các nhiệm vụ từ đầu đến cuối dựa trên các câu lệnh cấp cao, con người chỉ đóng vai trò giám sát. Hơn 90% công việc đạt mức AL3 - AI hợp tác, tức Claude thực hiện các phần việc lớn dưới sự hướng dẫn chặt chẽ của con người.

Theo Anthropic, Claude không vận hành hoàn toàn tự chủ trong bất kỳ phần công việc nào được đo lường. Tuy nhiên, mức đóng góp của AI vào quá trình phát triển công nghệ tại công ty đã tăng vọt so với hồi tháng 3, khi tỷ lệ R&D đạt mức AL4 chỉ chiếm 1%.

Startup này nhận định, trong bối cảnh thế giới đang cân nhắc việc điều tiết tốc độ phát triển các mô hình tiên tiến, các công ty nên làm mọi cách để thu hẹp khoảng cách giữa những gì các phòng thí nghiệm tiên tiến biết và những gì công chúng biết. Điều này đồng nghĩa với việc cần đo lường sự phát triển của AI tốt hơn, báo cáo công khai và tạo cơ hội cho xã hội quyết định cách sử dụng những thông tin này.

Theo Anthropic, thông tin về việc các mô hình tự thúc đẩy quá trình phát triển có thể khiến con người khó hiểu hoặc khó kiểm soát chúng hơn. Do đó, việc chia sẻ các số liệu như trên có thể giúp thế giới hiểu rõ hơn về việc các phòng thí nghiệm AI hàng đầu đang tiến gần đến khả năng "tự cải tiến đệ quy" (mô hình tự phát triển phiên bản kế nhiệm mạnh hơn) đến mức nào.

Logo ứng dụng AI Claude của Anthropic trên điện thoại. Ảnh: Lưu Quý

Anthropic công khai số liệu mới trong bối cảnh giới công nghệ đang tranh luận gay gắt về vấn đề an toàn AI. Cuộc tranh luận bắt đầu từ tuần trước, khi Jacob Coxon, một nhà nghiên cứu cấp cao của Anthropic và từng làm việc tại OpenAI, tuyên bố từ chức. "Ba năm qua, tôi đã nghiên cứu về quá trình huấn luyện trước (pre-training) AI tại cả Anthropic và OpenAI. Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X hôm 9/9.

Cuối tuần qua, CEO Anthropic Dario Amodei đã đăng một bài luận dài 3.800 từ trên blog, cho biết ông đã tiến hành phân tích trong nhiều tháng qua và tin chắc rằng cần phải làm chậm quá trình phát triển AI. Nhiều lãnh đạo công nghệ như CEO OpenAI Sam Altman hay CEO Tesla Elon Musk cũng đồng ý rằng cần giảm tốc độ phát triển AI để đảm bảo an toàn.

Tuy nhiên, Tổng thống Mỹ Donald Trump phản đối việc đặt ra giới hạn phát triển trí tuệ nhân tạo, gọi những lời cảnh báo về việc AI hủy diệt thế giới là "trò bịp bợm". CEO Nvidia Jensen Huang ủng hộ lập trường của ông Trump, cho rằng an toàn là yếu tố quan trọng trong phát triển AI nhưng trách nhiệm đảm bảo tiến hành thử nghiệm đúng cách thuộc về mỗi công ty và không cần thiết phải ban hành thêm luật hay quy định mới.

Thu Thảo tổng hợp