Ảo giác AI suýt kích hoạt xung đột quân sự giữa Mỹ và Trung Quốc

Các máy bay quân sự đã ở trên không trung vào mùa xuân này khi các quan chức Hoa Kỳ phát hiện ra một sự việc đáng báo động: thông tin tình báo dẫn dắt một chiến dịch vũ trang chống lại một tàu Trung Quốc đã bị một chatbot AI "ảo giác" (hallucinated) ra. Theo báo cáo của CNN vào thứ Sáu, chiến dịch đã bị hủy bỏ vào phút chót, suýt chút nữa đã ngăn chặn được một cuộc xung đột tiềm tàng với Trung Quốc.

Sự việc này nhấn mạnh một mối lo ngại ngày càng tăng trong giới quan chức quân sự và các chuyên gia bên ngoài: Khi những người ra quyết định ngày càng dựa dẫm nhiều hơn vào AI, các lỗi sai do những hệ thống này tạo ra có thể lan truyền lên tận cấp chỉ huy trước khi bị đặt dấu hỏi.

Báo cáo tình báo này, vốn được lưu hành trong thời gian xảy ra cuộc chiến với Iran, cho biết con tàu đang vận chuyển các linh kiện cho một chương trình vũ khí hạt nhân.

Thông tin tình báo sai lệch bắt nguồn từ một nhà phân tích thuộc Bộ Tư lệnh Đặc nhiệm, người đã truy vấn một chatbot AI để tổng hợp dữ liệu nguồn mở với thông tin tình báo tín hiệu mật. Chatbot đã xác định sai bản kê khai hàng hóa của con tàu. Sau đó, nhà phân tích này đã sử dụng công cụ đó lần thứ hai để định dạng các kết quả sai lệch thành một bản tóm tắt trông có vẻ chính thức, rồi được lưu hành trong các kênh chỉ huy.

Sự cố suýt xảy ra này diễn ra trong bối cảnh quân đội Hoa Kỳ đang chạy đua tích hợp AI để đẩy nhanh quá trình ra quyết định và duy trì lợi thế trước Trung Quốc. Lầu Năm Góc đã mô tả AI là yếu tố mang lại lợi thế đáng kể trong việc tăng tốc chuỗi tiêu diệt (kill chain) để các chỉ huy có thể phản ứng đúng thời điểm. Tuy nhiên, chính tốc độ khiến AI trở nên hấp dẫn cũng có thể tạo điều kiện cho các lỗi "ảo giác" xảy ra nếu thiếu sự giám sát đầy đủ từ con người.

"Điều quan trọng là các quân nhân phải hiểu được sự không chắc chắn vốn có của các LLM," Jake Steckler, học giả nghiên cứu tại GovAI và là một cựu sĩ quan Lục quân Hoa Kỳ, cho biết trong một phản hồi bằng văn bản gửi tới TechCrunch. "Nhưng điều đó đặc biệt quan trọng đối với bất kỳ quyết định nào có thể dẫn đến việc sử dụng vũ lực, như nhắm mục tiêu, phân tích tình báo hoặc lập kế hoạch tác chiến. Những quyết định đó có thể dẫn đến hậu quả sinh tử."

Tuy nhiên, Steckler cho rằng sự cố này nên được xem là lời kêu gọi bổ sung thêm các biện pháp bảo vệ cho AI, chứ không phải lý do để tránh né nó. "Những công cụ này có thể hữu ích trong các bối cảnh phù hợp và với các biện pháp bảo vệ thích hợp," ông nói. "Nhưng việc ưu tiên tốc độ áp dụng hơn tất cả mọi thứ khác có khả năng sẽ dẫn đến những sự cố khiến quân nhân mất niềm tin vào các hệ thống này, và cuối cùng, điều đó chỉ làm chậm quá trình áp dụng mà thôi."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.