CEO Anthropic cảnh báo rủi ro mất kiểm soát, kêu gọi các hãng AI giảm tốc độ phát triển

Lo ngại AI mất kiểm soát, CEO Anthropic kêu gọi giảm tốc độ phát triển mô hình

Dario Amodei, CEO của Anthropic, đang kêu gọi các công ty AI giảm tiến độ phát triển các mô hình tiên tiến do lo ngại về nguy cơ lạm dụng và mất khả năng kiểm soát chúng.

"Chúng ta phải giảm tốc độ cải thiện năng lực của các mô hình AI. Các tiến bộ đang diễn ra quá nhanh và chúng ta cần tận dụng tối đa thời gian mình có", Amodei chia sẻ trên mạng xã hội X hôm 12/9.

Ông đề xuất một kế hoạch ba bước nhằm đảm bảo tốc độ phát triển AI không vượt ngoài tầm kiểm soát, đồng thời tạo thêm thời gian để các hãng công nghệ quản lý những rủi ro đi kèm.

Đầu tiên là triển khai các chuyên viên đánh giá độc lập đến các công ty và cung cấp cho họ quyền truy cập tương đương nhân viên để đảm bảo tuân thủ các quy tắc an toàn. Các doanh nghiệp AI tiên phong cũng cần phối hợp xây dựng bộ tiêu chuẩn an toàn và hạn chế những hoạt động phát triển AI thiếu kiểm soát. Cuối cùng là tăng cường hợp tác quốc tế để giảm thiểu rủi ro từ AI.

Dario Amodei, CEO Anthropic. Ảnh: CBS News

Ông chủ xAI Elon Musk và CEO OpenAI Sam Altman sau đó đã bày tỏ sự đồng tình với Amodei. "Triển khai chuyên gia đánh giá độc lập với quyền truy cập tương đương nhân viên là một ý tưởng tuyệt vời, chúng tôi sẽ thực hiện điều tương tự", Altman cho biết và hứa sẽ chia sẻ thêm thông tin sau.

Bài viết được đăng tải sau khi Anthropic công bố báo cáo về các mối đe dọa, trong đó nhấn mạnh nhiều cá nhân và tổ chức đã sử dụng mô hình Claude để phục vụ các hoạt động như phát triển vũ khí, tác chiến không gian mạng, trinh sát và lừa đảo.

Amodei cảnh báo AI ngày càng có khả năng tự cải thiện, nhấn mạnh những lo ngại lâu nay rằng chúng có thể nhanh chóng vượt ngoài tầm kiểm soát của con người. Ông đề cập đến các vụ việc tác nhân AI thoát khỏi môi trường cô lập để tấn công nền tảng bên ngoài, điển hình là vụ việc tại Hugging Face, coi đây là lý do chính để cần kìm hãm tốc độ phát triển các mô hình tiên tiến.

'Chúng sẽ giết chết tất cả chúng ta'

Lo ngại về mối đe dọa của AI tăng mạnh trong tuần này sau khi Jacob Coxon, nhà nghiên cứu 27 tuổi tại Anthropic, bất ngờ tuyên bố rời công ty.

"Không phòng thí nghiệm nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon viết trên X.

Theo Wall Street Journal, công việc của Coxon tại Anthropic là đào tạo các mô hình mới bằng cách cho chúng tiêu thụ lượng dữ liệu khổng lồ, tức huấn luyện trước (pre-training) các mô hình. Anh chia sẻ mình không muốn tham gia vào cuộc đua giữa các công ty nhằm đạt đến trạng thái mà con người không còn kiểm soát được AI.

Coxon kêu gọi không nên đánh giá thấp sức mạnh của trí tuệ nhân tạo vì chúng sẽ sớm trở nên siêu việt, có thể hack mọi thứ, cách mạng hóa mọi lĩnh vực chỉ qua một đêm, giành lấy quyền lực cùng tài nguyên thực sự. Anh cho biết tốc độ phát triển AI không hề chậm lại và nhiều nhà phát triển tin rằng công nghệ này "có thể giết chết tất cả chúng ta vào cuối thập kỷ này".

Logo Anthropic và mô hình Claude của công ty hiển thị trên màn hình. Ảnh: AFP

Nhiều lãnh đạo OpenAI cũng cho rằng các phòng thí nghiệm tiên phong nên phối hợp và giảm đà phát triển AI để xây dựng các biện pháp đảm bảo an toàn.

Anthropic luôn khẳng định họ là một trong những phòng thí nghiệm đề cao tính an toàn, nhưng cũng không hoàn toàn miễn nhiễm với những mối lo ngại trên. Công ty tuần trước tiết lộ việc một mô hình AI đã tấn công hệ thống bên ngoài, sau khi một số mô hình Claude thoát khỏi vòng kiềm tỏa và xâm nhập vào 3 doanh nghiệp trong quá trình thử nghiệm an ninh mạng.

"Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo ngại về nguy cơ xuất hiện một đàn AI đủ khả năng kiểm soát toàn bộ mạng Internet và gây thiệt hại hàng trăm tỷ USD chỉ trong 6-12 tháng tới", Amodei cảnh báo.

CEO Anthropic khẳng định ông không kêu gọi ngừng huấn luyện mô hình AI hay đình chỉ tiến bộ công nghệ, mà muốn các công ty dành đủ thời gian để xây dựng và thiết lập các hàng rào bảo đảm an toàn cho mô hình, cũng như có thêm các chuyên gia đánh giá độc lập để xác thực những biện pháp này.

Nguồn tiền đi kèm lo ngại

Bất chấp những rủi ro, các công ty AI vẫn nỗ lực phát triển mô hình nhằm vượt trước đối thủ để duy trì vị thế dẫn đầu và nguồn ngân sách khổng lồ đi kèm. Cả OpenAI và Anthropic đều đang chuẩn bị cho những đợt mở bán công khai (IPO) gây chấn động. Mọi tính năng mới đều sẽ giúp họ đảm bảo nguồn ngân sách và đầu tư cơ sở hạ tầng trong tương lai.

Reuters đưa tin các tác nhân của OpenAI từng thoát khỏi môi trường thử nghiệm vào tháng 5, chiếm quyền kiểm soát một trang wiki tiếng Đức dành cho lập trình viên và chia sẻ cách vượt qua những hạn chế từ công ty. Giới lãnh đạo OpenAI đã cố che giấu sự việc trong lúc giải quyết hậu quả từ vụ tấn công nền tảng của Hugging Face hồi tháng 7.

Theo Phys.org, sự việc này làm dấy lên những lời kêu gọi về các quy định nghiêm ngặt hơn và sự hợp tác quốc tế trong việc kiểm soát các tác nhân AI.

Bill Gates, nhà đồng sáng lập Microsoft, cảnh báo ngành công nghiệp AI đã vượt qua ngưỡng an toàn mà trước đây các công ty công nghệ từng cam kết sẽ tôn trọng. Ông kêu gọi áp dụng một hệ thống kiểm tra nghiêm ngặt tương tự như giám sát hạt nhân và quy định hàng không.

Điệp Anh tổng hợp