Giới chuyên gia cảnh báo siêu trí tuệ nhân tạo đang tiến gần ngưỡng nguy hiểm

Chuyên gia cảnh báo siêu trí tuệ nhân tạo có thể khiến nhân loại tuyệt chủng.

Jacob Coxon, một chuyên gia AI từng làm việc tại OpenAI và Anthropic, hai công ty phát triển trí tuệ nhân tạo hàng đầu hiện nay, đã quyết định nộp đơn nghỉ việc tại Anthropic, đồng thời đăng tải một thông điệp cảnh báo về mối nguy hiểm của AI trên trang cá nhân.

“Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này. Họ đang lao thẳng tới siêu trí tuệ nhân tạo tự cải thiện và đánh bạc với mạng sống của chúng ta”, Jacob Coxon viết trên trang cá nhân.

Chưa đầy 72 giờ sau khi bài viết được đăng tải, bài đăng đã thu hút hơn 164 triệu lượt xem. Nhiều nhân viên AI lẫn lãnh đạo trong ngành đã đồng loạt lên tiếng phản ứng.

Sự ra đời của siêu AI sẽ là dấu chấm hết cho nhân loại? (Ảnh minh họa: GMN).

Evan Hubinger, trưởng nhóm khoa học căn chỉnh (alignment science) của Anthropic, đã chia sẻ lại bài đăng của Jacob Coxon và cho biết: “Tôi tin rằng Anthropic đang cố gắng hết sức, nhưng chúng tôi chưa có kế hoạch giải quyết vấn đề căn chỉnh cho siêu trí tuệ nhân tạo và rõ ràng là chưa đi đúng hướng”.

Evan Hubinger cũng trích dẫn một báo cáo gần đây cho thấy dù Anthropic tin rằng nguy cơ thảm họa do AI ở mức thấp, nhưng các mô hình siêu AI tự cải thiện có thể làm thay đổi hoàn toàn tình hình.

Ethan Perez, người từng tham gia tuyển dụng Coxon, mô tả Coxon là một nhà nghiên cứu AI xuất sắc.

“Trước khi anh ấy rời đi, tôi đã thuyết phục anh ấy ở lại và gia nhập nhóm của tôi. Tôi rất buồn vì anh ấy quyết định rời đi. Tôi đồng ý 100% với anh ấy rằng AI đặt ra những rủi ro nghiêm trọng đối với xã hội và tôi vui vì anh ấy đã lên tiếng”.

Julie Steele, chuyên gia trong nhóm nghiên cứu an toàn tại OpenAI, đăng một thông điệp ủng hộ Jacob Coxon: “Tôi làm việc tại OpenAI. Với tư cách cá nhân, tôi cũng nghĩ chúng ta cần chậm lại”.

Tuy nhiên, không phải ai cũng đồng tình với chia sẻ của Jacob Coxon. CEO Nvidia Jensen Huang cho rằng nhận định của Coxon là “không đúng sự thật” và “anh không hiểu rõ về tất cả công việc đang được thực hiện trên toàn ngành để có thể đưa ra kết luận đúng”.

Nhiều lãnh đạo công nghệ kêu gọi làm chậm tốc độ phát triển AI.

Sau khi bài viết của Jacob Coxon được lan truyền trên mạng xã hội và gây xôn xao dư luận, đích thân CEO của Anthropic là Dario Amodei cũng đã phải lên tiếng kêu gọi các công ty AI lớn của Mỹ cần phải “làm chậm lại tốc độ phát triển AI”.

CEO Anthropic Dario Amodei kêu gọi cộng đồng AI làm chậm tốc độ phát triển các mô hình AI vì lo ngại mất kiểm soát (Ảnh: Anthropic).

Amodei lập luận rằng một chiến lược điều tiết nhịp độ phát triển AI, được phối hợp giữa các công ty với nhau, sẽ cho phép các đơn vị tập trung nhiều nguồn lực hơn vào việc căn chỉnh, kiểm thử và đánh giá mô hình AI, đồng thời hiểu rõ hơn những gì một mô hình AI đang suy luận và thực hiện.

Một điểm lo ngại của Amodei là các tác nhân AI (agent AI - những công cụ AI có khả năng tự chủ, biết cách lập kế hoạch và thực hiện các hành động một cách hoàn chỉnh mà không cần con người hướng dẫn) có thể thoát ra môi trường Internet và thực hiện các cuộc tấn công mạng.

“Lo ngại của tôi là trong 6 đến 12 tháng tới, một loạt các agent AI có thể chiếm quyền kiểm soát toàn bộ Internet bằng một botnet dai dẳng, có khả năng gây thiệt hại hàng trăm tỷ USD và quy mô thiệt hại sẽ tiếp tục gia tăng nếu AI trở nên mạnh mẽ hơn mà không có các biện pháp bảo vệ cần thiết”, Dario Amodei viết trên trang cá nhân.

Dario Amodei cho biết bản thân Anthropic sẽ bổ sung các đánh giá viên bên thứ ba, những người sẽ sử dụng quyền truy cập tương tự như nhân viên của công ty để giám sát quá trình huấn luyện, triển khai cũng như vận hành các công cụ AI do công ty phát triển. Những người này có quyền công bố độc lập các phát hiện quan trọng về mức độ rủi ro và sự cố mà họ phát hiện ra.

Amodei cũng kêu gọi các công ty AI hàng đầu tự nguyện hợp tác với nhau để thiết lập các tiêu chuẩn an toàn và hạn chế nhịp độ phát triển, với chính phủ Mỹ đóng vai trò trung gian, hoặc ít nhất là tạo điều kiện cho các cuộc thảo luận giữa các công ty AI.

Cuối cùng, Dario Amodei đề nghị việc ký kết thỏa thuận giữa các quốc gia nhằm hạn chế những trường hợp sử dụng AI có khả năng gây nguy hiểm nhất, chẳng hạn như chế tạo vũ khí sinh học. Các cấp độ cao hơn của những thỏa thuận này có thể bao gồm việc áp đặt giới hạn tốc độ cho quá trình phát triển AI, thành lập một cơ quan tiêu chuẩn toàn cầu hoặc thậm chí là tạm dừng hoàn toàn cuộc đua phát triển AI giữa các quốc gia.

“Phương pháp điều tiết nhịp độ hiệu quả nhất là thông qua quy định nhắm vào tất cả các công ty AI tiên phong của Mỹ, vì điều đó bao gồm cả những công ty không sẵn sàng hợp tác tự nguyện”, Dario Amodei viết trên trang cá nhân.

Quan điểm của Amodei đã nhận được sự đồng tình từ những nhà lãnh đạo AI.

Sam Altman, CEO của OpenAI và người có mối quan hệ khá lạnh nhạt với Amodei, cũng đã lên tiếng ủng hộ.

“Tôi đồng ý với Dario rằng chúng ta cần điều tiết nhịp độ phát triển AI. Đây là chủ đề chính trong các cuộc thảo luận mà chúng tôi đã có tại OpenAI trong những tuần gần đây. Đề xuất về các đánh giá viên độc lập với quyền truy cập tương tự nhân viên là một ý tưởng tuyệt vời và chúng tôi sẽ làm như vậy. Chúng tôi sẽ sớm có thêm thông tin để chia sẻ”, Sam Altman viết trên trang X cá nhân.

Tỷ phú Elon Musk, nhà sáng lập của công ty trí tuệ nhân tạo xAI, chia sẻ lại vài bài viết của Dario Amodei, kèm lời bình luận ngắn gọn: “Dario đã đúng”.

Demis Hassabis, đồng sáng lập phòng nghiên cứu trí tuệ nhân tạo Google DeepMind, cũng lên tiếng ủng hộ quan điểm của Dario Amodei: “Bài luận của Dario chỉ ra con đường đúng đắn phía trước. Các chi tiết cần được làm rõ, nhưng hướng đi là đúng để đối mặt với thời điểm quan trọng này. Đây cũng là lý do chúng tôi gần đây đã đưa ra đề xuất về một cơ quan tiêu chuẩn toàn ngành dành cho AI tiên phong”.

CEO OpenAI cảnh báo về kịch bản AI có thể diễn biến “rất tệ”.

Sau khi lên tiếng đồng tình với quan điểm của Dario Amodei, CEO Sam Altman của OpenAI đã tiếp tục đăng tải một bài viết lên trang cá nhân để cảnh báo về những kịch bản mà siêu AI có thể diễn biến rất tệ.

Sam Altman cho rằng việc con người mất kiểm soát vào tay AI trong tương lai là điều không thể chấp nhận, đồng thời khẳng định “AI luôn phải phục vụ cho con người. Để đảm bảo điều đó, chúng ta cần các cách thức để bảo đảm rằng các kỹ thuật căn chỉnh và an toàn luôn đi trước tiến bộ về khả năng của các mô hình AI”.

CEO Sam Altman của OpenAI khẳng định rằng AI luôn phải phục vụ cho con người (Ảnh minh họa: NDTV).

CEO của OpenAI cũng chỉ ra kịch bản khi một quốc gia hoặc một phòng thí nghiệm có thể đạt được nhiều quyền kiểm soát nhờ tiếp cận siêu AI sẽ tạo ra tương lai ảm đạm.

“Nếu một AI cực kỳ mạnh mẽ bị một người hoặc một công ty sử dụng để áp đặt thế giới quan của họ lên tất cả những người khác, kết quả sẽ là một xã hội phản địa đàng. Chúng tôi mong muốn hợp tác với các đồng nghiệp trong ngành để xây dựng một phiên bản AI tốt nhất”, Sam Altman chia sẻ.

Nghị sĩ nước Anh kêu gọi “công tắc diệt AI” để ngăn chặn siêu trí tuệ nhân tạo.

Anh là quốc gia chỉ đứng sau Trung Quốc và Mỹ về mức độ tài trợ cho cuộc đua phát triển AI. Tuy nhiên, giờ đây nhiều nghị sĩ Anh đang kêu gọi một giải pháp an toàn để ngăn chặn siêu AI trong trường hợp cần thiết.

Hơn 70 nghị sĩ Anh, phối hợp với nhóm vận động hành lang ControlAI, đã viết thư gửi Thủ tướng Andy Burnham, kêu gọi ông ủng hộ lệnh cấm tạo ra siêu trí tuệ nhân tạo, một hệ thống AI vượt trội đáng kể so với trí tuệ của con người ở hầu hết các nhiệm vụ cần nhận thức.