Quân đội Mỹ suýt chặn tàu Trung Quốc vì báo cáo tình báo sai lệch do AI tạo ra

Báo cáo tình báo được lưu hành trong quân đội Mỹ vào mùa xuân này, giữa lúc căng thẳng với Iran, đã ngay lập tức gióng lên hồi chuông cảnh báo: Một con tàu Trung Quốc ở Trung Đông đang vận chuyển các thành phần của chương trình vũ khí hạt nhân.

Theo bốn nguồn tin am hiểu sự việc, quân đội Mỹ đã nhanh chóng hành động với các kế hoạch đánh chặn con tàu. Theo hai trong số các nguồn tin này, các thành viên vũ trang của quân đội Mỹ đã chuẩn bị đổ bộ lên tàu. Một trong những nguồn tin đó và một nguồn tin khác am hiểu vụ việc cho biết, các máy bay quân sự cũng đã được điều động trên không.

Chỉ ngay trước khi chiến dịch diễn ra, các quan chức mới đào sâu hơn vào báo cáo do một nhà phân tích thuộc bộ chỉ huy tác chiến đặc biệt soạn thảo và phát hiện ra rằng nó được tạo ra với sự hỗ trợ của trí tuệ nhân tạo (AI) — và một chatbot mà nhà phân tích này sử dụng đã xác định sai loại hàng hóa mà con tàu đang chở. CNN không thể tìm hiểu được loại hàng hóa bị xác định nhầm đó là gì.

Theo một trong các nguồn tin, báo cáo này “hoàn toàn sai sự thật”. Nhưng nguồn tin cũng cho biết, nó “suýt chút nữa đã gây ra chiến tranh”. Bất kỳ chiến dịch nào của Mỹ nhắm vào một con tàu Trung Quốc đều có nguy cơ leo thang thành xung đột vũ trang giữa hai quốc gia.

Trên khắp quân đội và cộng đồng tình báo Mỹ, các quan chức đang thúc đẩy việc đưa AI vào hầu hết mọi khía cạnh công việc, từ phân tích khối lượng lớn dữ liệu tình báo thô mà Mỹ thu thập được và chọn mục tiêu tấn công, cho đến các ứng dụng thông thường hơn như quản lý ngân sách, hậu cần và chuỗi cung ứng.

Tuy nhiên, sự việc này nhấn mạnh những rủi ro sâu sắc của việc sử dụng công nghệ mạnh mẽ, mới mẻ và còn tương đối ít được hiểu rõ này cho mục đích nhắm mục tiêu ngay giữa thời chiến. Các nhà phân tích từ lâu đã lo ngại rằng AI có thể dẫn đến những tính toán sai lầm thảm khốc nếu các quốc gia dựa vào dữ liệu kém chất lượng hoặc bị làm sai lệch — kiểu tính toán sai lầm có thể khiến Mỹ khai hỏa vào một con tàu Trung Quốc dựa trên thông tin không chính xác.

Trong trường hợp cụ thể này, nhà phân tích đã truy vấn một chatbot về một số báo cáo tình báo liên quan đến bản kê khai hàng hóa của con tàu, vốn bắt nguồn từ Bộ Tư lệnh Tác chiến Đặc biệt Thái Bình Dương của Mỹ, đặt tại Hawaii. Hiện chưa rõ chatbot này là sản phẩm thương mại hay là sản phẩm của chính phủ Mỹ.

“Các công cụ nội bộ phần lớn chỉ là những bản sao của các sản phẩm thương mại được tô vẽ thêm,” một cựu quan chức cấp cao của Mỹ am hiểu về các hệ thống AI được quân đội và các nhà phân tích tình báo sử dụng cho biết.

Con bot đã tổng hợp thông tin tình báo nguồn mở với thông tin tình báo tín hiệu bí mật trong kho dữ liệu của chính phủ và đưa ra kết luận định mệnh về loại vật liệu mà con tàu đang vận chuyển.

Sau đó, nhà phân tích lại sử dụng AI để đóng gói các kết quả tìm được thành một báo cáo tình báo tiêu chuẩn — loại báo cáo vốn được các quan chức quân sự tin tưởng — và phổ biến nó.

Bộ Tư lệnh Tác chiến Đặc biệt Thái Bình Dương và Lầu Năm Góc đã không phản hồi yêu cầu bình luận.

Lý do cho việc áp dụng nhanh chóng AI là nó có thể giúp quân đội đưa ra các quyết định trên chiến trường, như chọn mục tiêu tấn công hoặc điều động khí tài quân sự đến đâu, một cách nhanh chóng hơn. Các quan chức cho biết Mỹ không thể để bị tụt hậu trong việc tích hợp AI, phòng trường hợp một ngày nào đó phải đối đầu với Trung Quốc hoặc một đối thủ khác có khả năng đi trước Mỹ một bước.

Vào tháng 1, Bộ trưởng Quốc phòng Pete Hegseth đã công bố “Chiến lược Tăng tốc Trí tuệ Nhân tạo” của cơ quan này nhằm đẩy nhanh việc quân đội sử dụng AI.

“Chúng ta sẽ thúc đẩy thử nghiệm, loại bỏ các rào cản quan liêu, tập trung đầu tư và thể hiện phương pháp thực thi cần thiết để đảm bảo chúng ta dẫn đầu về AI quân sự,” ông Hegseth phát biểu khi công bố chiến lược.

Chiến lược này cũng thúc đẩy việc sử dụng rộng rãi AI trên toàn quân, yêu cầu bộ này cung cấp AI thông qua một số chương trình với mục tiêu “dân chủ hóa việc thử nghiệm và chuyển đổi AI trên toàn Bộ bằng cách đưa các mô hình AI hàng đầu thế giới của Mỹ trực tiếp đến tay ba triệu nhân viên dân sự và quân sự của chúng ta, ở mọi cấp độ phân loại,” một bản ghi nhớ công bố chiến lược cho biết.

Tuy nhiên, nỗ lực này đang bị phân tán, nhiều quan chức Mỹ am hiểu về tình hình cho biết, với các bộ phận khác nhau của chính phủ sử dụng các công cụ khác nhau theo các mệnh lệnh và tiêu chuẩn an toàn khác nhau. Không có một bộ tiêu chuẩn thống nhất nào về cách Mỹ xác minh thông tin do các công cụ này tạo ra. Việc triển khai hàng loạt các hệ thống AI khác nhau bởi các đơn vị riêng biệt trong quân đội và cộng đồng tình báo đồng nghĩa với việc độ tin cậy và chức năng tương đối của chúng rất khác nhau.

Trong nhiều tuần qua, các nhà hoạch định chính sách tại Washington đã tranh luận gay gắt về AI sau hàng loạt cảnh báo nghiêm trọng từ các kỹ sư và CEO công nghệ ở Thung lũng Silicon về khả năng AI có thể vượt khỏi tầm kiểm soát của con người, với những hậu quả có khả năng chấm dứt nền văn minh.

Nhưng sự việc với con tàu Trung Quốc nhấn mạnh một rủi ro khác, trực tiếp hơn: con người đưa ra những quyết định thảm khốc dựa trên thông tin không chính xác hoặc gây hiểu lầm do AI hoặc các hệ thống tự động khác tạo ra. Các nguồn tin cho biết quân đội đang nhanh chóng chuyển sang sử dụng AI để hỗ trợ nhắm mục tiêu, một lĩnh vực tiềm ẩn rủi ro rõ ràng về những sai lầm chết người.

“AI trong việc nhắm mục tiêu chắc chắn là thứ đang gia tăng và không có hướng dẫn thực tế nào về việc làm thế nào để có sự tham gia của con người (human in the loop) nhằm ngăn chặn thương vong cho dân thường hoặc hỏa lực nhầm lẫn (fratricide),” một nguồn tin khác am hiểu về các chính sách hiện tại của quân đội cho biết.

Theo một trong các nguồn tin, kiểu “ảo giác” (hallucination) mà công cụ được nhà phân tích sử dụng trong trường hợp này tạo ra không phải là sự cố cá biệt trong cộng đồng tình báo kể từ khi các công cụ này bắt đầu phổ biến trong chính phủ.

Đối với một số quan chức tình báo lớn tuổi — ngay cả những người ủng hộ rộng rãi việc sử dụng AI trong quân đội — AI đã gây áp lực buộc các nhà phân tích phải tạo ra và phổ biến thông tin tình báo nhanh hơn, mở đường cho những sai sót. Đặc biệt, các nhà phân tích trẻ, theo một số nguồn tin, là những người bản địa với các công cụ này và có nhiều khả năng tin tưởng chúng một cách thiếu phản biện.

“AI cho phép bạn đi đến một ý tưởng tồi nhanh hơn,” một trong các nguồn tin cho biết.