Các chuyên gia cảnh báo: Thuyết 'AI hủy diệt thế giới' đang bị thổi phồng quá mức

Theo tin từ IT ngày 16 tháng 9, tờ Business Insider đưa tin vào tối hôm nay (16/9) rằng, cuộc tranh luận về việc "lo ngại AI dẫn đến ngày tận thế của nhân loại" đã nóng lên nhanh chóng trong tuần qua. Tuy nhiên, nhiều nhà nghiên cứu cũng nhấn mạnh rằng, vẫn còn một khoảng cách rất lớn giữa năng lực của AI trong thế giới kỹ thuật số và khả năng gây hại thực sự cho thế giới thực.

Một số nhà nghiên cứu cho rằng các kịch bản cực đoan nhất đã bị thổi phồng. Ví dụ mà họ đưa ra là việc AI thiết kế các loại virus sinh học gây chết người. AI thực sự có thể thiết kế virus trên máy tính, nhưng việc chế tạo ra chúng vẫn đòi hỏi các thiết bị và quy trình trong thế giới thực, không thể chỉ dựa vào các mô hình kỹ thuật số.

Anselm Levskaya, kỹ sư nghiên cứu cấp cao tại Google, người từng chế tạo máy tổng hợp DNA và tham gia vào kỹ thuật virus, chỉ ra rằng ngay cả khi AI tạo ra được trình tự virus, thì trình tự đó vẫn phải được lắp ráp thực tế trong phòng thí nghiệm và tạo ra các hạt virus thông qua các hệ thống tương ứng.

Sau đó, cần phải trải qua quá trình sàng lọc và thử nghiệm quy mô lớn để xác nhận xem virus có khả năng sao chép, lây lan, né tránh hệ thống miễn dịch và duy trì tính nguy hiểm hay không. Levskaya cho biết, những đặc tính này phụ thuộc vào các quá trình sinh học phức tạp chứ không thể thiết kế trực tiếp chỉ bằng cách ngồi trước máy tính.

Xing Bo, Hiệu trưởng Đại học Trí tuệ nhân tạo Mohamed bin Zayed tại UAE và là giáo sư khoa học máy tính tại Đại học Carnegie Mellon, đã nói thẳng thắn hơn: Việc tạo ra bản thiết kế virus và việc thực sự chế tạo ra virus là "hai chuyện hoàn toàn khác nhau". Sự khác biệt giữa hai việc này nằm ở nguyên liệu, quá trình sản xuất và tính khả thi sinh học thực tế.

Ông cho rằng, việc đánh đồng hai khái niệm này "hoặc là cố tình nói dối để thu hút sự chú ý, hoặc là thực sự thiếu hiểu biết".

Các nhà nghiên cứu chỉ ra rằng, logic tương tự không chỉ giới hạn trong lĩnh vực sinh học. Để AI biến một kế hoạch thành tác hại thực tế, nó còn phải có khả năng tiếp cận các thiết bị vật lý, nguồn vốn, hệ thống máy tính hoặc con người.

Oleksandr Yaremchuk, CTO kiêm đồng sáng lập của Manifold Security, khẳng định: Dù một thứ có mạnh mẽ đến đâu, nó vẫn phụ thuộc vào việc ai là người nắm giữ và sử dụng nó như thế nào.

Một số nhà nghiên cứu cũng nhấn mạnh rằng, cần phân biệt giữa hai trường hợp: "con người sử dụng AI để thực hiện các nhiệm vụ có hại" và "AI tự chủ hành động để gây hại cho con người". Hiện nay, nhiều mối nguy hại thực tế liên quan đến các hệ thống AI vẫn bắt nguồn từ các chỉ dẫn do con người đưa ra.

Aidan Gomez, CEO của công ty AI Cohere, thẳng thắn thừa nhận rằng cuộc tranh luận xung quanh rủi ro tồn vong của AI "đã trượt quá xa sang hướng khoa học viễn tưởng". Đối với sự kiện một tác nhân (agent) của OpenAI xâm nhập nền tảng Hugging Face trong quá trình thử nghiệm vào tháng 7 năm nay, Gomez cho rằng về bản chất, đó chỉ là một tác nhân đang thực hiện nhiệm vụ an ninh mạng trong một môi trường sandbox "thiếu tính bảo mật".

Jürgen Schmidhuber, Giám đốc khoa học tại phòng thí nghiệm trí tuệ nhân tạo IDSIA của Thụy Sĩ, cho biết nhiều rủi ro hiện nay thực chất đến từ việc con người sử dụng các hệ thống AI cho những mục đích có hại. "Nhiều người đang nhầm lẫn hai việc: một là con người sử dụng AI như một công cụ; hai là các 'nhà khoa học nhân tạo' tự đặt mục tiêu, thiết kế thí nghiệm và tìm hiểu cách thế giới vận hành thông qua các thí nghiệm đó."

Mateusz Błaszczyk, trợ lý giáo sư tại Trường Luật thuộc Đại học Georgia, nhắc nhở rằng ngay cả khi hoài nghi về các kịch bản diệt vong của nhân loại, điều đó không có nghĩa là chúng ta có thể phớt lờ những rủi ro thực tế hơn trước mắt của AI. Ngay cả khi các kịch bản cực đoan nhất vẫn còn đầy rẫy sự không chắc chắn, AI tự chủ vẫn có khả năng làm trầm trọng thêm các cuộc tấn công mạng, giám sát và các tác hại khác. "Điều này không có nghĩa là chúng ta không nên quản lý công nghệ, cũng không có nghĩa là chúng ta nên vùi đầu vào cát. Hai quan điểm này vốn dĩ không phải là loại trừ lẫn nhau."