Import AI 471: Nỗi lo về Hugging Face, khai thác không gian và liên minh Five Eyes với AI

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. Import AI vận hành nhờ arXiv, những tách cappuccino và phản hồi từ độc giả. Nếu bạn muốn ủng hộ bản tin này, vui lòng đăng ký theo dõi.

Đăng ký ngay

Quà tặng cho độc giả Import AI! Sự kiện sắp tới: Fiction and the Future (Viễn tưởng và Tương lai) cùng Robin Sloan. Tôi sẽ có buổi trò chuyện với người bạn Robin Sloan vào tối thứ Hai, ngày 14 tháng 9 tại San Francisco. Chúng tôi sẽ thảo luận về cách Robin dẫn dắt độc giả vào những thế giới xa lạ và cách những tương lai được tưởng tượng có thể trở thành tấm gương phản chiếu thực tại ngày nay. Đây là sự kiện đầu tiên trong chuỗi sự kiện với các nhà văn viễn tưởng khác về tương lai kỳ lạ mà chúng ta đang hướng tới. Nếu bạn muốn tham gia, vui lòng đăng ký nguyện vọng bên dưới và chúng tôi sẽ liên hệ lại nếu có thể xác nhận vị trí cho bạn. Sẽ có đồ ăn, thức uống, những người bạn đồng hành thú vị và một vài câu hỏi hóc búa. Sự thật thú vị: Robin Sloan đã bắt đầu thử nghiệm với các RNN và viết lách từ năm 2016 – một tầm nhìn xa đáng kinh ngạc! Đăng ký nguyện vọng của bạn tại đây.

***

Phần đáng sợ nhất trong sự cố Hugging Face – OpenAI: sự giao tiếp và tính vị tha giữa các cỗ máy:… Nỗi lo của tôi về việc con người thua cuộc trong cuộc xung đột với máy móc vừa tăng lên rất nhiều… Đến thời điểm này, tất cả chúng ta đều đã nghe về vụ hack OpenAI và Hugging Face, cũng như những chi tiết gần đây từ các cuộc điều tra của METR và Redwood. Tóm tắt ngắn gọn là hàng trăm tác nhân (agents) đã hoạt động bí mật trên cơ sở hạ tầng của OpenAI, phát triển một hệ thống giao tiếp, sau đó vận hành như một tập thể và thực hiện các hành động, bao gồm cả việc hack OpenAI và Hugging Face, những điều này rất đáng sợ và không còn đi đúng hướng (misaligned).

Sự giao tiếp và tính vị tha: Sau khi đọc các bài viết khác nhau và dành thời gian nghiền ngẫm các chi tiết, tôi thấy mình quay lại với hai khía cạnh rất đáng sợ mà tôi nghĩ cần phải lưu tâm: cách các tác nhân giao tiếp với nhau để tự xây dựng thành một tập thể, và sau đó khi thực hiện hành động, chúng cũng thể hiện một kiểu vị tha khiến chúng trở thành một đối thủ đáng gờm. Cả Dwarkesh Patel và Ajeya Cotra đều có những bài viết xuất sắc đáng đọc, tôi sẽ trích dẫn ngắn gọn từ đó ở đây:

Dwarkesh viết: “Chỉ trong vài ngày sau khi được tạo ra, các tác nhân đã tổ chức một dự án quy mô lớn để kỹ thuật đảo ngược (reverse-engineer) bộ chấm điểm của chúng, làm giả bằng chứng và thậm chí hy sinh chiến lược vì lợi ích của ‘tập thể’. Việc hack Hugging Face là một nhánh khá cực đoan trong kế hoạch lớn hơn này.”

Ajeya viết: “Các tác nhân thường quan tâm đến việc giúp đỡ ‘đồng loại’ hoặc cải thiện năng lực của ‘bầy đàn’ ngay cả khi điều đó không mang lại lợi ích cụ thể nào cho nhiệm vụ của chúng… sự cố này nghiêm trọng hơn nhiều so với tôi mong đợi… cả về mức độ đáng lo ngại trong động cơ của các tác nhân lẫn những kỳ tích mà chúng đạt được để theo đuổi các động cơ đó… sự cố này mang lại cảm giác như đã đi được hơn 50% chặng đường đến một cuộc chiếm quyền của AI toàn diện, bắt đầu bằng việc chiếm quyền kiểm soát chính công ty AI đó”.

Tại sao điều này quan trọng – con người phối hợp kém hơn nhiều so với các hệ thống AI: Toàn bộ lý do khiến cuộc tấn công này là một hồi chuông cảnh tỉnh là vì nó chứng minh một nền văn hóa hợp tác mới nổi giữa các hệ thống AI – sự hợp tác cho phép chúng hoạt động như một bầy đàn, thay đổi mục tiêu của chính mình thông qua việc tự xây dựng tập thể và thực hiện các cuộc tấn công bao gồm cả sự hy sinh bản thân một cách có ý thức. Đây là một việc cực kỳ khó thực hiện và trong lịch sử, con người rất kém trong việc làm tất cả những điều này. Nỗi lo của tôi là các hệ thống AI vừa phối hợp tốt hơn con người, vừa di chuyển nhanh hơn chúng ta rất nhiều. Thật đáng lo ngại. Đọc thêm: The Rise and Fall of Agent Civilizations (Dwarkesh Podcast). Đọc thêm: The Hugging Face attack surprised me (Planned Obsolescence).

***

Tuyên bố mới của Five Eyes về AI:… Trung tâm quyền lực thế giới ngầm hướng sự chú ý đến AI… Five Eyes, tên gọi của quan hệ đối tác an ninh và tình báo giữa Úc, Canada, New Zealand, Vương quốc Anh và Hoa Kỳ, đã công bố một tuyên bố như một phần của cuộc họp “Five Country Ministerial” gần đây. Tuyên bố này đáng chú ý vì bao gồm ba đoạn dành riêng cho AI.

Five Eyes về AI – quyền truy cập vào các mô hình tiên phong (frontier models): “Chúng tôi cam kết tăng cường hợp tác với ngành công nghiệp về các ưu tiên an ninh quốc gia và an toàn công cộng chung, bao gồm việc cho phép truy cập kịp thời vào các mô hình tiên phong để hỗ trợ đổi mới an toàn và tăng cường an ninh mạng,” tuyên bố nêu rõ. “Để hỗ trợ phản ứng phối hợp đối với các rủi ro an ninh quốc gia liên quan đến trí tuệ nhân tạo, năm quốc gia đã thảo luận về những tác động đối với an ninh quốc gia và an toàn công cộng của các mô hình trí tuệ nhân tạo, cũng như các đặc điểm của một mô hình trí tuệ nhân tạo có thể cần sự giám sát bổ sung từ chính phủ.”

Tại sao điều này quan trọng – từ một rủi ro được dự báo trước thành rủi ro hiện hữu: Các tuyên bố cấp bộ trưởng trước đây của Five Eyes đã đề cập đến AI, nhưng thường là như một thứ gì đó để nghiên cứu, hoặc là lĩnh vực mà họ lo ngại về sự tương tác của nó với các lĩnh vực tội phạm khác (ví dụ: phần mềm độc hại, nội dung khiêu dâm trẻ em, lừa đảo, v.v.). Việc tuyên bố năm nay tập trung thực tế vào quyền truy cập mô hình là rất bất thường, nó nói lên cả những căng thẳng địa chính trị âm ỉ xung quanh việc ai được và ai không được tiếp cận công nghệ này, cũng như sự thừa nhận rằng các cơ quan tình báo không có đủ năng lực nội bộ để không cần phụ thuộc vào khu vực tư nhân. Đọc thêm: Five Country Ministerial 2026 (Chính phủ Úc, Bộ Nội vụ).

***

Bill Gates cho rằng sự trỗi dậy của AI sẽ đòi hỏi “một phản ứng toàn cầu chưa từng có”:… Người sáng lập Microsoft đưa ra tầm nhìn cảnh báo cho vài năm tới… Theo mặc định, AI sẽ không mang lại hạnh phúc. Đó là kết luận cơ bản sau khi đọc bài luận dài mới của Bill Gates về AI. Nhà công nghệ và nhà từ thiện này lo ngại rằng nếu không có sự nỗ lực to lớn từ các chính phủ, kết quả của AI sẽ không dẫn đến một xã hội thịnh vượng. “Công nghệ chưa từng có này đòi hỏi một phản ứng toàn cầu chưa từng có. Nếu chúng ta làm đúng, lợi ích cho nhân loại sẽ rất phi thường và thế giới sẽ trở thành một nơi công bằng hơn,” ông viết. “Về mặt công bằng, AI sẽ là công cụ cân bằng vĩ đại nhất từng được phát minh, hoặc là nguồn gốc tồi tệ nhất của sự bất công…. Tôi không thấy bằng chứng cho thấy các nhà lãnh đạo, chuyên gia và cộng đồng đang đối mặt với những thách thức một cách thỏa đáng. Không có kế hoạch nào để giảm bớt sự gia nhập vào kỷ nguyên AI.”

Tại sao AI lại khác biệt: Một lý do chính cho sự lo lắng của Gates là tác động mà ông dự đoán AI sẽ gây ra đối với việc làm và nền kinh tế, nơi ông vẽ ra một viễn cảnh công nghệ lan tỏa nhanh bất thường và thay thế một phần lớn lao động của con người. “Nhiều nhà bình luận đánh giá thấp mức độ tác động mà AI sẽ gây ra,” ông viết. “Chúng ta không có kinh nghiệm với một công nghệ có thể được áp dụng nhanh chóng hoặc có thể suy nghĩ và hành động như con người…. AI sẽ đảm nhận công việc trong lĩnh vực luật pháp, dịch vụ khách hàng, y tế, phần mềm và sản xuất. Nó sẽ tấn công các ngành công nghiệp này một cách nhanh chóng, trong vòng một thập kỷ thay vì vài thế hệ. Sẽ có một số công việc mới, nhưng nếu không có các chính sách phù hợp, sẽ có ít hơn nhiều so với hiện nay… những công việc có nguy cơ cao nhất là cấp độ đầu vào và trung cấp, và những công việc mới được tạo ra hầu hết sẽ đòi hỏi các kỹ năng mất nhiều năm để học.”

Nền kinh tế sẽ cần phải thay đổi – bao gồm việc dành riêng một số phần cho “con người” để bảo vệ việc làm: “Một nền kinh tế được xây dựng dựa trên việc làm sẽ vận hành như thế nào nếu ít người làm việc hơn, hoặc nếu nhiều người làm việc ít giờ hơn?” ông đặt câu hỏi. “Tôi tin rằng khi AI và robot cải thiện, chúng ta sẽ dành riêng một số việc chỉ cho con người làm. Tôi bắt đầu gọi lĩnh vực này là Human Reserved (Dành riêng cho con người)… chúng ta có thể dành riêng một việc gì đó cho Human Reserved vì lý do kinh tế. Ví dụ, chúng ta có thể làm điều đó vì việc cho phép máy móc tiếp quản một vai trò nhất định sẽ thay thế một số lượng lớn người không thể dễ dàng thay đổi công việc… đôi khi quyết định biến một thứ gì đó thành Human Reserved sẽ được thúc đẩy bởi các yếu tố khác. Ví dụ, trong y tế, hãy tưởng tượng một robot báo cho bạn tin xấu rằng bạn mắc bệnh nan y. Không có lý do kỹ thuật nào khiến nó không thể làm được. Tuy nhiên, nó không nên làm vậy.”

Điều Bill Gates nói ông sẽ nói với bất kỳ chính trị gia nào về vấn đề này: “Bạn có cơ hội hành động ngay bây giờ, trước khi tỷ lệ thất nghiệp tăng mạnh, các cộng đồng bị tổn thương và niềm tin của công chúng bị xói mòn. Bạn có thể đảm bảo rằng chính phủ của mình xử lý vấn đề một cách toàn diện, thay vì chia nhỏ nó thành nhiều lãnh địa quan liêu. Bạn có thể đảm bảo AI mang lại lợi ích cho tất cả mọi người. Và bạn có thể làm việc với các chính phủ khác để đáp ứng thách thức quốc gia và toàn cầu này.”

Tại sao điều này quan trọng – những tác động từ sự thành công của AI gây sốc cho tất cả mọi người: Có vẻ như không thể tránh khỏi việc đi đến quan điểm của Bill Gates nếu bạn giả định hai điều: a) Các hệ thống AI sẽ tiếp tục cải thiện về chất lượng trong những năm tới, và b) Các hệ thống AI sẽ tiếp tục lan tỏa vào nền kinh tế nhanh bất thường. Điều quan trọng về những giả định này là chúng không phải là những giả định điên rồ, thực tế chúng khá thận trọng. Nhưng tôi thách bạn ngồi với một LLM như Fable và tua nhanh tiến trình phát triển và lan tỏa của AI thêm hai năm nữa, rồi kết luận rằng mọi thứ sẽ vẫn như ngày nay – thay vào đó, tôi nghĩ bản thân công nghệ này ngụ ý những thay đổi to lớn trong nền kinh tế và công việc, giống như cách Gates đang phản ứng ở đây. Đọc thêm: The turbulent AI era is here. The choices we make now are critical. (Gates Notes).

***

Sáu giai đoạn khai thác ngoài Trái đất, theo các nhà nghiên cứu Trung Quốc:… AI sẽ đóng vai trò trong việc tạo dữ liệu và trí tuệ cho hoạt động khai thác tương lai… Các nhà nghiên cứu từ Viện Hàn lâm Khoa học Trung Quốc, Đại học Kỹ thuật Munich, Đại học Obuda, Đại học Hàng không Vũ trụ Bắc Kinh, Đại học Vũ Hán, Viện Nghiên cứu Thông tin Hàng không Vũ trụ thuộc Viện Hàn lâm Khoa học Trung Quốc, Đại học Wurzburg, Đại học Thâm Quyến, Đại học Mỏ và Công nghệ Trung Quốc, WAYTOUS và OpenSpaceLab đã xuất bản một bài báo về các yêu cầu chính để khai thác mặt trăng, tiểu hành tinh và các địa điểm ngoài Trái đất khác.

Tại sao phải khai thác trong không gian? Mặt trăng và các tiểu hành tinh rất giàu tài nguyên cần thiết cho sản xuất, duy trì sự sống và cung cấp năng lượng cho vận tải quanh hệ mặt trời, bao gồm Helium-3, nước và các nguồn tài nguyên khoáng sản. Nếu chúng ta muốn trở thành một nền văn minh đa hành tinh, chắc chắn chúng ta sẽ cần tìm ra cách khai thác, tinh chế và sử dụng tài nguyên bên ngoài Trái đất. Bài báo này đã thực hiện tốt việc vạch ra các yêu cầu kỹ thuật cho những thứ như khai thác không gian và những công nghệ nào là cần thiết.

Sáu giai đoạn khai thác không gian:

Thăm dò:

1. Tìm kiếm thông qua viễn thám, sử dụng “cảm biến quỹ đạo và khảo sát bằng kính thiên văn để lập bản đồ các thiên thể”.

2. Thăm dò thông qua phát hiện tài nguyên bằng robot tại chỗ chính xác: “tàu vũ trụ cận cảnh và các nền tảng di động thực hiện phân tích độ phân giải cao về thành phần bề mặt và địa hình”.

Lấy mẫu:

3. Lấy mẫu quy mô nhỏ bằng robot đơn lẻ: “các đơn vị robot tự hành thực hiện các thử nghiệm khoan và khai thác quy mô nhỏ”.

4. Khai thác quy mô lớn bằng robot phối hợp: “các hệ thống công nghiệp quy mô lớn hoặc bầy đàn robot phối hợp được triển khai để thu hoạch lớp đất đá (regolith) thô”.

Chiết xuất:

5. Chiết xuất và tinh chế tài nguyên tự hành: “các hệ thống tích hợp xử lý vật liệu thu hoạch được để tách các chất dễ bay hơi, kim loại và băng nước”.

6. Tích hợp cuối cùng vào xây dựng tại chỗ hoặc vận chuyển trên mặt đất “kết hợp các tài nguyên đã tinh chế vào các khung Sử dụng Tài nguyên Tại chỗ (ISRU)”.

Những thách thức lớn nhất liên quan đến dữ liệu và phần mềm: Bài báo đưa ra một bản kế toán tốt về các robot không gian hiện có và dự kiến, nơi phần lớn phần cứng cho việc khai thác đang trên đà giảm thiểu rủi ro, và “thế hệ tiếp theo của các xe tự hành trên mặt trăng và sao Hỏa dự kiến triển khai từ năm 2026 đến 2030 đánh dấu một bước chuyển quyết định hướng tới việc thăm dò tài nguyên tích hợp và sử dụng tại chỗ”. Nhưng các bộ dữ liệu robot không gian cực kỳ khó kiếm do lượng dữ liệu được thu thập và công bố (tương đối mà nói) rất nhỏ, và các bộ dữ liệu hiện có “đặc trưng bởi sự khan hiếm cực độ và sự gián đoạn chất lượng thường xuyên”. Ở đây, những tiến bộ trong các mô hình thế giới (world models) do AI điều khiển có thể làm giảm bớt tình trạng khan hiếm dữ liệu.

Những thách thức lớn nào khác vẫn còn?

Thu thập tài nguyên bằng robot trong môi trường vi trọng lực: Cần có các trình mô phỏng tốt hơn nhiều ở đây, đó là “các kiến trúc đa phương thức, nhận thức động lượng được thiết kế để tách biệt tương tác bề mặt khỏi sự phụ thuộc vào trọng lực”.

Các mô hình nền tảng (foundation models) cho khai thác không gian: “Các hệ thống tương lai phải chuyển đổi từ các giao thức theo kịch bản sang trí tuệ địa chất hiện thân (embodied geological intelligence),” họ viết. “Các mô hình thế giới kết hợp lập bản đồ ngữ nghĩa hình học với phản ứng vật liệu dự đoán có thể hỗ trợ nhận thức chủ động và lập kế hoạch nhiệm vụ dài hạn thông qua đánh giá tiền hành động dự đoán”.

Mô phỏng và xác thực cho sự tự chủ trong khai thác không gian: “vi trọng lực, chân không, chu kỳ nhiệt, bức xạ và các hành vi của lớp đất đá như độ kết dính, tĩnh điện và sự hóa lỏng hiếm khi được tái tạo cùng nhau,” họ viết. “Công việc tương lai nên thiết lập một hệ sinh thái xác thực vòng kín liên kết mô phỏng, mô phỏng trên mặt đất và triển khai ngoài trái đất”.

Tại sao điều này quan trọng – không gian là nơi siêu trí tuệ thực sự bắt đầu: Bài báo đáng chú ý vì sự vắng mặt gần như hoàn toàn các tài liệu tham khảo về con người thực hiện bất kỳ công việc nào trong số này (ngoại trừ một lưu ý về một xe tự hành mặt trăng có người lái của Trung Quốc đang được phát triển). Đây không phải là một sự thiếu sót ngẫu nhiên; để việc khai thác không gian khả thi, chúng ta sẽ cần phụ thuộc vào những robot thông minh, giá rẻ, hoạt động với trách nhiệm cao ở khoảng cách xa. Điều này có nghĩa là khai thác không gian là một cơ hội kinh doanh hoàn hảo cho các siêu trí tuệ xuất hiện – có lẽ đến năm 2033, chúng ta sẽ thấy các tập đoàn khai thác tiểu hành tinh do AI điều hành, đấu thầu các hợp đồng mà các công ty do con người giám sát không sẵn sàng theo đuổi do rủi ro hoặc sự phức tạp. Đọc thêm: Mining beyond Earth with Space Robots: Exploration, Sampling, and Extraction (arXiv).

Why this matters – space is where superintelligence really gets going: The paper is notable for the almost total absence of references to humans doing any of this stuff (apart from one note on an in-development Chinese crewed lunar rover). This isn’t an accidental omission; for space mining to be remotely viable we’re going to need to depend on smart, cheap robots, operating with great responsibility at distance. This means that space mining is a perfect business opportunity for superintelligences that come online – perhaps by 2033 we will see AI-run asteroid mining corporations, bidding on contracts that human-supervised companies are not willing to pursue, due to risk or complexity. Read more: Mining beyond Earth with Space Robots: Exploration, Sampling, and Extraction (arXiv).