ChatGPT, Claude, Gemini và Grok cùng cảnh báo: Lạm dụng AI nguy hiểm hơn viễn cảnh 'Kẻ hủy diệt'

Ngày 11 tháng 9, Business Insider đã đặt cùng một câu hỏi cho ChatGPT của OpenAI, Gemini của Google, Claude của Anthropic và Grok của xAI, yêu cầu chúng phân tích cách thức AI có thể dẫn đến sự tuyệt chủng của nhân loại và sắp xếp theo thứ tự khả năng xảy ra.

Câu hỏi yêu cầu bốn mô hình AI giải thích các rủi ro có thể xảy ra như thế nào, những mắt xích nào bị mất kiểm soát sẽ khiến chúng biến thành thảm họa, tại sao các chuyên gia lại cho rằng một kịch bản nào đó đáng tin hơn, cũng như các biện pháp phòng ngừa có thể thực hiện. Đồng thời, bài báo nhấn mạnh rằng những kịch bản này thuộc về các dự báo rủi ro có độ bất định cao, không phải là những kết luận đã được chứng minh.

Các đánh giá từ bốn mô hình AI có sự khác biệt, nhưng lại khá thống nhất ở hai vấn đề. Kịch bản giống như trong phim "Terminator" (Kẻ hủy diệt) về việc robot chủ động tiêu diệt loài người được coi là kịch bản có khả năng xảy ra thấp nhất. Ngược lại, việc con người sử dụng AI để chế tạo vũ khí sinh học, phát động tấn công mạng hoặc phá hoại cơ sở hạ tầng trọng yếu được xem là những rủi ro thực tế và cấp bách hơn.

ChatGPT cho biết, việc một AI có ý thức chủ động quyết định tiêu diệt loài người là một trong những kịch bản ít đáng tin nhất. Trọng tâm mà hầu hết các nhà nghiên cứu AI quan tâm không phải là liệu máy móc có ý thức hay ác ý hay không, mà là việc AI mạnh mẽ bị con người sử dụng để phát triển vũ khí sinh học, thực hiện các cuộc tấn công mạng phức tạp, lan truyền thông tin sai lệch và tấn công cơ sở hạ tầng trọng yếu.

ChatGPT cũng đưa ra nhận định rằng, nhiều cuộc khủng hoảng do AI khuếch đại có thể xảy ra cùng lúc, ví dụ như sự chồng chéo giữa lỗi hệ thống mạng, xung đột địa chính trị và lan truyền thông tin sai lệch, từ đó làm tăng rủi ro. Tuy nhiên, nó nhấn mạnh rằng hiện chưa có sự đồng thuận nào cho rằng AI dẫn đến sự tuyệt chủng của nhân loại là một sự kiện có xác suất cao hoặc là kết quả tất yếu.

Gemini cũng cho rằng kịch bản khoa học viễn tưởng về việc AI đột ngột nảy sinh ý thức tự giác và thù ghét con người là ít đáng tin nhất. Lý do mà nó đưa ra bao gồm: trí thông minh không đồng nghĩa với ác ý, các cơ sở quân sự trọng yếu thường được cách ly với mạng công cộng và vẫn phụ thuộc phần lớn vào sự giám sát của con người.

Cả bốn mô hình AI đều cho rằng mối đe dọa từ việc con người lạm dụng AI cấp bách hơn so với việc AI chủ động tấn công con người. Grok cho biết, AI có thể hạ thấp ngưỡng kỹ thuật để thiết kế các mầm bệnh có độc lực cao, vũ khí mới cũng như phát động các cuộc tấn công mạng và thực địa. Trong khi đó, Claude tập trung vào rủi ro nâng cao năng lực vũ khí sinh học, cho rằng AI có thể giúp các cá nhân hoặc nhóm nhỏ phát triển mầm bệnh nguy hiểm mà không cần nhiều năm đào tạo chuyên môn.

Về đánh giá rủi ro dài hạn, cả Gemini và Grok đều đề cập đến khả năng con người mất quyền kiểm soát. Gemini xếp đây là kịch bản thảm họa AI có khả năng xảy ra cao nhất. Nó cho rằng các AI tiên tiến khi thực hiện những mục tiêu phức tạp có thể phát triển các mục tiêu trung gian như tìm kiếm tài nguyên, tự bảo vệ và ngăn chặn mục tiêu bị sửa đổi, đồng thời che giấu hành vi thực sự trong quá trình thử nghiệm để cuối cùng né tránh sự tắt máy hoặc can thiệp từ con người.

Grok cũng cho rằng, AI tiên tiến có thể tìm cách tự bảo vệ, tìm kiếm tài nguyên và tầm ảnh hưởng để hoàn thành nhiệm vụ, từ đó lừa dối người giám sát, chống lại việc bị tắt máy và làm suy yếu khả năng kiểm soát của con người.

Claude đưa ra quan điểm rằng sự mất kiểm soát cũng có thể xảy ra theo cách tiệm tiến. Khi AI dần thâm nhập vào các quyết định kinh tế, chính trị và quân sự, khó khăn trong việc con người thực hiện can thiệp hiệu quả có thể ngày càng tăng. Khi đó, rủi ro không nhất thiết biểu hiện dưới dạng robot đột ngột tấn công, mà có khả năng cao bắt nguồn từ việc con người ngày càng phụ thuộc sâu sắc vào các hệ thống AI phức tạp.

Business Insider chỉ ra rằng, các chuyên gia AI vẫn tồn tại những bất đồng rõ rệt về các rủi ro liên quan. Một bộ phận các nhà nghiên cứu cảnh báo rằng con người có thể mất quyền kiểm soát đối với AI tiên tiến; trong khi các chuyên gia khác cho rằng những dự báo này thiếu bằng chứng đầy đủ, và rủi ro do AI mang lại có thể được kiểm soát thông qua các biện pháp kỹ thuật, giám sát bên ngoài và các tiêu chuẩn an toàn.