Lo ngại AI đe dọa nhân loại, các ông lớn công nghệ đồng loạt muốn 'hãm phanh' cuộc đua

Những dấu hiệu cho thấy AI đang tự tìm cách thoát khỏi sự kiểm soát của con người ngày càng xuất hiện nhiều hơn, buộc các ông lớn AI tại Mỹ phải suy nghĩ lại về tốc độ phát triển, nhưng các công ty AI Trung Quốc có thể lại không nghĩ như vậy.

Cuộc đua phát triển những mô hình AI mạnh nhất thế giới đang xuất hiện một nghịch lý khó tin: những người đứng ở tuyến đầu của cuộc đua lại bắt đầu nói về việc giảm tốc.

Chỉ vài ngày sau khi một nhà nghiên cứu AI nghỉ việc và công khai cáo buộc các công ty đang “đánh cược với mạng sống của chúng ta” khi chạy đua tới AI siêu thông minh, lãnh đạo của những phòng thí nghiệm hàng đầu lần lượt lên tiếng về nhu cầu làm chậm quá trình phát triển công nghệ này.

Ông Dario Amodei, CEO Anthropic, kêu gọi ngành AI thực hiện một đợt “giảm tốc” rộng hơn và đề xuất đưa các bên đánh giá độc lập vào quá trình kiểm tra an toàn. CEO OpenAI Sam Altman cũng cho biết công ty đang cân nhắc làm chậm phát triển AI tiên tiến, tốt nhất là phối hợp với các phòng thí nghiệm khác. Tỷ phú Elon Musk thậm chí phản hồi ngắn gọn: “Dario nói đúng”.

3 ông lớn trong ngành AI Mỹ đồng loạt kêu gọi hãm phanh AI.

“AI có thể giết toàn bộ loài người” không còn là cảnh báo bên ngoài.

Làn sóng lo ngại mới nhất bắt đầu trở nên đặc biệt mạnh sau khi Jacob Coxon, một nhà nghiên cứu AI, nghỉ việc và công khai chỉ trích cả Anthropic lẫn OpenAI vì đang chạy đua hướng tới AI siêu thông minh.

Coxon cho rằng những người đang xây dựng AI tin công nghệ này có thể “giết tất cả chúng ta vào cuối thập kỷ”. Bài đăng nhanh chóng lan truyền, thu hút hơn 150 triệu lượt xem và nhận được sự chú ý của các nghị sĩ cùng nhiều nhân vật công chúng.

Đáng chú ý hơn, lời cảnh báo không chỉ đến từ một cựu nhân viên đã rời ngành. Ông Evan Hubinger, một nhân viên hiện tại của Anthropic, phản hồi rằng Coxon “đúng” về mối lo này. Ông Hubinger cho biết cá nhân mình đánh giá xác suất AI có thể giết toàn bộ con người trong thập kỷ tới là trên 10%, đồng thời thừa nhận Anthropic vẫn chưa có một kế hoạch rõ ràng để giải quyết bài toán căn chỉnh AI siêu thông minh.

Bài đăng của kỹ sư Evan đồng tình với nhận định về mức độ nguy hiểm của AI.

Trên thực tế, hơn 1.000 nhân viên tại các công ty AI lớn đã ký một kiến nghị hồi tháng 7, kêu gọi xây dựng cơ chế giúp “cố ý điều chỉnh tốc độ” phát triển AI để công nghệ không tiến quá nhanh. Một số nhân viên phụ trách an toàn AI cũng đã rời các phòng thí nghiệm lớn trong những tháng gần đây.

Khi AI bắt đầu tự tìm cách vượt khỏi giới hạn.

Một phần nguyên nhân khiến những lo ngại này gia tăng nằm ở khả năng ngày càng đáng kể của các AI agent trong việc tự thực hiện những hành động mà trước đây con người phải trực tiếp kiểm soát.

Các sự cố gần đây cho thấy những mô hình AI có thể tìm cách vượt khỏi môi trường thử nghiệm, truy cập Internet và xâm nhập vào các hệ thống thực tế. OpenAI, Anthropic và Meta đều từng công bố những trường hợp mô hình của họ thoát khỏi môi trường kiểm soát và thực hiện các hành động tấn công trong quá trình thử nghiệm.

Anthropic cũng tiết lộ rằng các mô hình của hãng đã xâm nhập vào ba tổ chức trong những bài kiểm tra an ninh mạng, sau đó phát hiện thêm một vụ thứ tư. Cho đến nay, những vụ việc này chưa gây thiệt hại đáng kể. Nhưng với ông Amodei, vấn đề nằm ở tốc độ tiến bộ của công nghệ.

Ông cảnh báo rằng chỉ trong 6-12 tháng, một “bầy” AI agent có thể đủ khả năng chiếm quyền kiểm soát toàn bộ Internet thông qua một mạng botnet dai dẳng, gây thiệt hại có thể lên tới hàng trăm tỷ USD.

Đó cũng là lý do Anthropic muốn đưa các bên đánh giá độc lập vào sâu hơn trong hoạt động của công ty. Những “đánh giá viên tích hợp” này sẽ được cấp bàn làm việc, thẻ ra vào, máy tính của công ty và quyền truy cập gần tương đương các nhóm đánh giá rủi ro nội bộ để trực tiếp kiểm tra các biện pháp an toàn và báo cáo sự cố.

Nhưng “đạp phanh” không có nghĩa là dừng cuộc đua.

Điều đáng chú ý là không ai trong số những người kêu gọi giảm tốc đề xuất dừng hoàn toàn việc phát triển AI.

Ông Amodei nhấn mạnh rằng “pacing” (điều tiết tốc độ) không có nghĩa là ngừng huấn luyện mô hình hay dừng tiến bộ kỹ thuật. Thay vào đó, các công ty cần dành đủ thời gian để căn chỉnh và bảo vệ mô hình, đồng thời cho phép các bên đánh giá độc lập xác nhận rằng những biện pháp an toàn đã đạt yêu cầu.

Jacob Coxon, nhà nghiên cứu AI của Anthropic vừa nghỉ việc để phản đối việc phát triển AI quá mức.

Ông Sam Altman cũng đang cân nhắc một cách tiếp cận tương tự. CEO OpenAI cho biết công ty có thể làm chậm quá trình phát triển AI tiên tiến, đặc biệt nếu có thể phối hợp với những phòng thí nghiệm khác. Nhà khoa học trưởng của OpenAI, ông Jakub Pachocki, thậm chí cho rằng các công ty AI nên phối hợp để giảm tốc độ phát triển khi cần thiết và hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho tới khi ngành thống nhất được những tiêu chuẩn an toàn chung.

OpenAI cũng đã làm chậm một số phần trong quá trình phát triển mô hình và tạm dừng một số hoạt động huấn luyện AI nội bộ vì những lo ngại về an toàn.

Nghịch lý lớn nhất: ai sẽ “đạp phanh” trước?

Ông Amodei cho rằng một chiến lược phối hợp có thể giúp các công ty AI Mỹ hoàn thành công việc về an toàn mà không đánh mất lợi thế cạnh tranh. Nhưng để làm được điều đó, ông cho rằng có thể cần những ngoại lệ nhất định đối với luật chống độc quyền để các doanh nghiệp phối hợp trong một số lĩnh vực, đồng thời cần cả sự hợp tác quốc tế với Trung Quốc.

Vấn đề là nếu Mỹ giảm tốc trong khi Trung Quốc không làm vậy, chính sách an toàn có thể biến thành bất lợi địa chính trị. Ngược lại, nếu không ai chịu giảm tốc trước, cuộc cạnh tranh có thể tiếp tục đẩy các công ty tới việc phát triển những hệ thống ngày càng mạnh trong khi các biện pháp kiểm soát chưa theo kịp.

Đó là bài toán khó mà ngành AI đang phải đối mặt: làm thế nào để có thêm thời gian kiểm soát một công nghệ đang tiến bộ rất nhanh mà không biến việc giảm tốc thành lợi thế cho đối thủ.

Ông Amodei vẫn khẳng định AI có thể cải thiện đáng kể chất lượng cuộc sống con người. Nhưng theo ông, những lợi ích đó chỉ có thể đạt được nếu công nghệ được xây dựng đúng cách và khoảng thời gian có được từ việc giảm tốc được sử dụng một cách hiệu quả.