Liệu AI có thể vượt qua bộ máy quan liêu tại Lầu Năm Góc?

Garrett Berntsen lần cuối xuất hiện trên ChinaTalk với vai trò Phó CDAO tại Bộ Ngoại giao. Sau đó, ông chuyển sang làm việc tại Bộ Quốc phòng một thời gian ngắn, và hiện đã trở lại với vai trò mới là Giám đốc AI (Chief AI Officer) tại Accenture Federal Services.

Chúng ta sẽ thảo luận về những gì cộng đồng an ninh quốc gia cần — vượt xa hơn việc chỉ truy cập API vào các mô hình tuyệt vời — để thực sự thay đổi cách thức thực hiện sứ mệnh của họ.

Cuộc trò chuyện của chúng tôi bao gồm:

Tại sao máy bay do thám U-2 lại mang đến một bài học hữu ích đến bất ngờ cho AI: Phần khó nhất của việc áp dụng công nghệ mang tính chuyển đổi không phải là xây dựng nó, mà là thiết kế lại các thể chế, quy trình làm việc, cơ chế khuyến khích và hệ thống ra quyết định xoay quanh nó.

Nhu cầu của chính phủ trong việc tự tạo ra các “yếu tố thúc đẩy” (forcing functions): Cách thức sử dụng các biện pháp khuyến khích, chế tài, cắt giảm ngân sách và sự sẵn sàng tạo ra người thắng kẻ thua có thể giúp bộ máy quan liêu vận hành nhanh hơn.

Trao công cụ cho quân đội và để họ tự chủ: Tại sao Berntsen cho rằng lợi thế AI lớn nhất của quân đội Mỹ có thể đến từ việc trao quyền cho các quân nhân để thử nghiệm, ứng biến và “tự tìm cách giải quyết”.

Liệu AI cuối cùng có đàm phán với AI? Chúng tôi tranh luận về việc liệu các mô hình có thể vượt xa vai trò cố vấn cho các nhà ngoại giao và điều hành để thực sự tiến hành các cuộc đàm phán hay không.

Ngoài ra còn có các thách thức về mạng, ứng dụng trò chuyện cho chính phủ và các gợi ý sách.

Hãy lắng nghe ngay trên ứng dụng podcast yêu thích của bạn.

Jordan Schneider: Được rồi — một chiếc U-2 bay qua Cuba vào năm 1962. Tại sao đó là một câu chuyện ngụ ngôn mà chúng ta nên nhớ đến khi suy nghĩ về cách triển khai AI trong chính phủ?

Garrett Berntsen: Để tôi kể phiên bản tóm tắt của câu chuyện U-2. Nó được chế tạo trong một chương trình mật với các khách hàng và nguồn vốn từ chính phủ, rót tiền vào ngành công nghiệp và khơi dậy hàng loạt đổi mới xung quanh cảm biến và chuyến bay tầm cao. Họ xây dựng mọi thứ hoàn toàn mới. Việc kết hợp tất cả các mảnh ghép đó lại với nhau là một sự đổi mới đáng kinh ngạc, và nó được thực hiện trong một phòng thí nghiệm bí mật, rất nhanh chóng và nổi tiếng.

Tua nhanh đến Khủng hoảng tên lửa Cuba. Đột nhiên chúng ta có hình ảnh chụp từ trên không về các địa điểm tên lửa ở Cuba. Chúng ta đang thu thập được thông tin tình báo thô thực sự tốt theo cách mà người Nga không hề biết, và đó là một điều kỳ diệu đối với các nhà ra quyết định của Mỹ. Họ thực sự có thể thấy những thay đổi trên mặt đất theo thời gian.

Bạn nghe về công nghệ, về chiếc máy bay — mà nhân tiện, tôi vừa tra cứu gần đây, nó vẫn còn đang hoạt động. Thật đáng kinh ngạc. Nó mang tính cách mạng đến mức đó và vẫn còn rất giá trị. Họ cứ nói về việc cho nó nghỉ hưu rồi lại quyết định không làm vậy. Vì vậy, công nghệ này tất nhiên là cực kỳ quan trọng, cũng như sự đổi mới cần thiết để kết hợp tất cả lại với nhau.

Lý do tôi thích phép ẩn dụ này, và tại sao tôi nghĩ nó phù hợp với AI ngày nay, là vì nó không chỉ là công nghệ, không chỉ là chiếc máy bay. Cách họ mua sắm nó rất quan trọng. Những đổi mới xung quanh cải cách mua sắm rất quan trọng. Cách ngành công nghiệp và chính phủ làm việc cùng nhau rất quan trọng. Và sau đó, cách thông tin từ máy bay được phân tích và thể chế hóa thông qua phân tích tình báo cũng rất quan trọng. Họ đã xây dựng một cơ quan tình báo hoàn toàn mới, NPIC — Trung tâm Diễn giải Hình ảnh Quốc gia — nơi sau này trở thành NGA. Họ đã xây dựng toàn bộ chuỗi phán đoán đó, và quan trọng nhất, đưa nó đến trước mặt Tổng thống và các nhà ra quyết định khác. Đó là phần kỳ diệu của câu chuyện.

Chuyển sang thời điểm của AI, chúng ta đang ở trong tình huống mà công nghệ đã tiến xa hơn rất nhiều, vì phần lớn nó đến từ thế giới thương mại thay vì được quản lý trong một chương trình của chính phủ. Nó đã tiến xa đến mức vượt quá khả năng tích hợp của chúng ta vào các hệ thống, quy trình làm việc và quy trình ra quyết định thực tế, khiến chúng ta trở nên bị động trước công nghệ này. Đó là phần lớn những gì tôi làm tại công ty của mình, và những gì tôi đã làm trong chính phủ — cố gắng suy nghĩ thấu đáo về những mảnh ghép khác cần thay đổi, không chỉ riêng bản thân AI. Đó là lý do tại sao chỉ riêng API là không đủ.

Jordan Schneider: Hãy dành thêm một chút thời gian cho U-2. Những đột phá công nghệ nào cần thiết để chụp bức ảnh đó và nhận ra tên lửa đang đến Cuba? Bạn cần ống kính mới, hộp chứa mới, còn gì nữa không?

Garrett Berntsen: Chuyến bay tầm cao. Vào thời điểm đó, chưa ai từng bay cao đến thế. Ngay cả thiết bị trên người phi công cũng phải được phát triển mới.

Jordan Schneider: Bạn thậm chí có thể nhìn thấy nó từ mặt đất không?

Garrett Berntsen: Không.

Jordan Schneider: Đúng vậy, vì Eisenhower đã cho bay những chiếc này qua Liên Xô một thời gian trước khi họ kịp nhận ra.

Garrett Berntsen: Tất cả những mảnh ghép đó đều quan trọng. Điều đáng kinh ngạc khác — và chúng ta phải nhớ điều này — là việc thực hiện mọi thứ theo nhịp độ và tốc độ theo cách kỹ thuật thực sự rất khó. Chúng ta quen hơn với việc chạy thử nghiệm lần một, sau đó thử nghiệm lần hai, thu thập dữ liệu và quay lại để tinh chỉnh. Tôi không nói đó là cách làm sai. Đó là cách bạn làm kỹ thuật, đặc biệt nếu bạn sắp đưa phi công vào những môi trường đe dọa tính mạng. Nhưng khả năng di chuyển nhanh hơn qua chu kỳ đó và chấp nhận rủi ro nhiều hơn là một phần của sự kỳ diệu trong công nghệ đó.

Quay lại ngày nay, đó là lý do tại sao chúng ta thấy sự tập trung vào thử nghiệm — thúc đẩy thử nghiệm xa nhất có thể, với các nhà lãnh đạo cấp cao nói rằng: “Tôi sẵn sàng chấp nhận một số rủi ro ở đây vì sứ mệnh quá quan trọng, và chúng ta cần chấp nhận rủi ro hơn một chút để thử nghiệm những công nghệ này trong môi trường tác chiến.”

Jordan Schneider: Được rồi, chúng ta có bức ảnh này, bản thân nó đã là một điều đáng kinh ngạc. Bộ máy tình báo làm gì với nó?

Garrett Berntsen: Họ lấy các hộp chứa ra khỏi máy ảnh và phóng to hình ảnh thành các bản in khổng lồ trên giấy thấm, sau đó trải chúng ra sàn tại NPIC trong một không gian được phân loại. Mọi người thực sự đang lật giở các hướng dẫn và báo cáo tình báo về vũ khí của Liên Xô và nhìn qua kính lúp, tự hỏi: “Đó có phải là loại sơn phù hợp trên thành chiếc xe tải này để biến nó thành bệ phóng tên lửa không? Hình dạng của tên lửa đó có nhất quán với những gì báo cáo tình báo của chúng ta nói không?”

Bạn đang lấy thông tin tình báo thô và phân tích nó bằng sự phán đoán của con người, với các chuyên gia về thiết bị quân sự, và kết hợp tất cả lại thành một đánh giá. Và bạn đang làm điều đó một cách nhanh chóng. Nếu bạn theo dõi Khủng hoảng tên lửa Cuba từng ngày, đó thực sự là những ngày khó khăn.

Garrett Berntsen: Đó là những quyết định tại phòng tình huống NSC. Chúng ta làm gì? Chúng ta tấn công, chúng ta thiết lập phong tỏa, chúng ta gửi thông điệp gì lại cho Liên Xô? Những quyết định đó diễn ra rất nhanh chóng, và bạn không có nhiều thời gian để ngồi lại và thực hiện phân tích bản ghi nhớ sâu hơn.

Jordan Schneider: Trong thời đại đó, mọi thứ rất rõ ràng — bạn có một vài dữ liệu mới, những bức ảnh mới này, và bạn sẽ làm mọi thứ có thể với chúng. Ngày nay chúng ta đang ở trong một tình huống hoàn toàn khác.

Garrett Berntsen: Nó gần như ngược lại. Bạn gần như có quá nhiều thông tin.

Jordan Schneider: Bạn không thể xây dựng NPIC cùng lúc với việc thiết kế chính xác chiếc máy bay do thám mà bạn muốn NPIC phân tích. Bạn chỉ có một khối lượng công nghệ khổng lồ, và nó đang phát triển theo những hướng mà bạn không kiểm soát được.

Garrett Berntsen: Đúng vậy. Bạn không nắm quyền kiểm soát, thực tế là vậy.

Jordan Schneider: Mọi người đang xử lý việc này như thế nào?

Garrett Berntsen: Bạn phải ghi nhận công lao của những người đang thúc đẩy. Đội ngũ hiện tại ở Lầu Năm Góc và những nơi khác đang làm việc rất chăm chỉ — tôi đã dành thời gian tại Bộ Ngoại giao, NSC và Bộ Chiến tranh trong khoảng 5 năm qua. Nhưng còn rất nhiều việc phải làm, và chúng ta đang thấy những điểm sáng thành công.

Nhiều thành công hơn nằm ở các không gian tác chiến. Ví dụ, trong cái họ gọi là CJADC2 — Chỉ huy và Kiểm soát Đa miền Kết hợp (Combined Joint All-Domain Command and Control), có rất nhiều tiến bộ trong việc mang lại cho mọi người nhận thức tình huống về toàn bộ chiến trường và sử dụng AI để chắt lọc và xác định các đối tượng và thông tin tình báo, sau đó đưa nó trực tiếp và nhanh chóng đến những người ra quyết định tại thực địa.

Nơi chúng ta thấy ít tiến bộ hơn, thành thật mà nói, là trong những gì tôi gọi là các hệ thống kinh doanh cốt lõi.

Niềm tin cá nhân của tôi là chúng ta không nên coi các hệ thống là hệ thống sứ mệnh và hệ thống kinh doanh. Ngày càng có nhiều thứ là hệ thống sứ mệnh. Bộ và tất cả các cơ quan trong chính phủ liên bang thực sự bắt đầu nhận ra rằng nếu họ muốn các hệ thống tác chiến hỗ trợ các chiến binh hoặc những người ra quyết định trong bất kỳ sứ mệnh nào, họ cần dữ liệu thực sự tốt từ các hệ thống cốt lõi của mình — hệ thống kinh doanh, hậu cần, nhân sự, tài chính. Đó cũng là các chức năng tác chiến.

Bạn phải đầu tư vào việc làm sạch, sắp xếp dữ liệu và sẵn sàng sử dụng ở nhịp độ tác chiến. Rất nhiều hệ thống kinh doanh này không được xây dựng để chạy ở nhịp độ tác chiến, vì trước đây chúng chưa bao giờ phải làm vậy.

Đây là một ví dụ rất đơn giản. Trong một số hệ thống kinh doanh này, các quy tắc ghi rõ bạn chỉ phải cập nhật trạng thái trên biểu mẫu mỗi tuần một lần. Chà, đó là một chính sách — ai đó đã viết một chính sách nói rằng các trung sĩ hậu cần trong Quân đội, có lẽ khoảng 10.000 hoặc 20.000 người, cập nhật mỗi tuần một lần. Tôi từng làm hậu cần trong Quân đội, vì vậy hãy tưởng tượng thách thức khi đến gặp trung sĩ hậu cần của bạn và nói: “Này, bạn thực sự phải nhập dữ liệu này vào hệ thống mỗi ngày thay vì mỗi tuần một lần,” bởi vì một nhà ra quyết định nào đó muốn dữ liệu đó mỗi ngày thay vì mỗi tuần. Đó là một con tàu lớn cần xoay chuyển, và giá trị phải nằm ở đó. Nhiều khi chúng ta cũng cung cấp cho họ những hệ thống thực sự không dễ sử dụng. Chúng ta đang làm cho họ khó nhập dữ liệu vào, và bây giờ chúng ta lại bảo họ rằng nhịp độ và độ trễ của dữ liệu đó cần phải nhanh hơn nhiều.