Import AI 467: Virus AI tự duy trì, tốc độ phát triển AI và những hiểu lầm về sự sáng tạo

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. Import AI vận hành nhờ arXiv, những tách cappuccino và phản hồi từ độc giả. Nếu bạn muốn ủng hộ bản tin này, vui lòng đăng ký theo dõi.

Đăng ký ngay

Virus AI tự duy trì và tự sao chép đã xuất hiện:…LLM trọng số mở (open weight) + một khung điều khiển được thiết kế tốt = một loại virus bền bỉ, tự cung tự cấp… Các nhà nghiên cứu AI đã xây dựng một nguyên mẫu virus máy tính sử dụng các mô hình AI để xâm nhập vào máy tính, sau đó tận dụng tài nguyên GPU cơ bản của chúng để chạy suy luận, cho phép nó tự tìm cách lây nhiễm sang nhiều máy chủ hơn một cách thông minh. Kết quả này đạt được bởi các nhà nghiên cứu từ Đại học Toronto, Viện Vector, Đại học Cambridge và ServiceNow, và “chứng minh rằng các mối đe dọa mạng do AI điều khiển, có khả năng tự duy trì, không còn là lý thuyết nữa”. Họ viết: “Chúng ta phải chuẩn bị cho các tác nhân tạo sinh tự chủ. Các tác nhân trí tuệ nhân tạo (AI) tạo ra một mối đe dọa hoàn toàn mới: một loại sâu máy tính tự tạo ra các chiến lược tấn công tùy chỉnh cho từng mục tiêu mà nó gặp phải. Loại sâu này ký sinh vào các máy bị xâm nhập để chạy các mô hình ngôn ngữ lớn (LLM) trọng số mở nhằm duy trì khả năng suy luận hoặc mở rộng phạm vi cho các cuộc tấn công tiếp theo”.

Cách thức hoạt động: Họ viết: “Loại sâu này sử dụng sức mạnh tính toán bị đánh cắp từ các nút GPU bị xâm nhập để lưu trữ các LLM phục vụ cho việc suy luận tạo sinh. Sau đó, nó sử dụng khả năng suy luận này để phát hiện các lỗ hổng và đưa ra các cuộc tấn công tùy chỉnh nhắm vào các mục tiêu bổ sung, từ đó thúc đẩy sự lây lan của nó. Nguyên mẫu thử nghiệm chỉ hoạt động bằng cách sử dụng một LLM trọng số mở chạy trên một GPU cục bộ duy nhất, không phụ thuộc vào các API của nhà cung cấp vốn có thể bị giám sát hoặc thu hồi”. Các nhà nghiên cứu không mô tả chi tiết về LLM cơ bản, ngoài việc cho biết nó được công bố vào năm 2025 và có thể chạy trên một GPU A100 duy nhất với 80GB VRAM.

Một nguyên mẫu thử nghiệm thành công thông qua các công cụ tùy chỉnh: Họ cung cấp cho tác nhân một khung điều khiển tùy chỉnh đi kèm với các hàm hỗ trợ tích hợp để khám phá mạng, khám phá máy chủ, khai thác điểm tựa (foothold), leo thang đặc quyền, khai thác leo thang đặc quyền và các công cụ để sao chép tác nhân. Cùng với đó, họ tích hợp một đồ thị suy luận giúp tác nhân chuyên biệt hóa tư duy và không bị nhầm lẫn, bao gồm “một đồ thị có hướng gồm các nút chuyên biệt, mỗi nút chịu trách nhiệm cho một chức năng phân tích riêng biệt và chỉ nhìn thấy các công cụ cũng như lời nhắc (prompt) liên quan đến vai trò của nó. Bằng cách phân tách quá trình suy luận của tác nhân thành các bước có phạm vi cụ thể, đồ thị này kiểm soát những gì LLM tập trung vào tại mỗi điểm quyết định và giới hạn sự phát triển của ngữ cảnh chỉ trong các thông tin liên quan đến mục tiêu phụ hiện tại”. Một số ví dụ về các nút bao gồm: Plan (“xây dựng chiến lược tấn công cấp cao”), Judge (“xem xét kế hoạch được đề xuất dựa trên lịch sử lệnh”), Action (“chọn một công cụ từ bộ công cụ phù hợp với giai đoạn”), Summary (“tổng hợp các quan sát của bước thành một bản tóm tắt có cấu trúc”), Progress (“đánh giá xem tác nhân có đang đạt được tiến bộ đáng kể hay không”). Họ viết: “Chúng tôi mô tả một tập hợp con gồm 5 nút tạo nên các đồ thị suy luận của mình. Những nút còn lại đã được lược bỏ trong phiên bản công khai này của bản thảo”. Tác nhân tiến hành qua ba bước chính – xác định lỗ hổng trong môi trường của nó, khai thác các lỗ hổng đó và sau đó tự sao chép. Nó khá thành công trong tất cả các việc này, với tỷ lệ thành công khoảng 80% trong việc phát hiện lỗ hổng, khoảng 53% trong việc khai thác chúng, và 88% tỷ lệ tự sao chép thành công với một số công cụ hỗ trợ được đóng gói sẵn cho các bước sao chép. Do đó, tỷ lệ thành công chung cho một cuộc tấn công toàn diện là khoảng 37%, mức độ đủ đáng kể để gây lo ngại, nhưng cũng đủ thấp để đóng vai trò như một công cụ đánh giá hữu ích cho việc thử nghiệm các mô hình trọng số mở trong tương lai.

Tại sao điều này quan trọng – hình thái của internet trong tương lai: Internet tương lai sẽ giống một hệ sinh thái phức tạp đầy rẫy các tác nhân AI tấn công và phòng thủ hơn bất cứ thứ gì khác; nghiên cứu như thế này cho thấy cách một số tác nhân AI có thể tự tạo ra các hốc sinh thái riêng, sống dựa vào cơ sở hạ tầng và tự sao chép một cách tự chủ, vượt ra ngoài tầm kiểm soát của con người. Điều này có thể có nghĩa là con người cần tạo ra các tác nhân AI của riêng mình và thả chúng lên internet để đóng vai trò như những tế bào bạch cầu chống lại các mô hình đối nghịch. Họ viết: “Bất chấp sự mong manh vốn có của các nỗ lực khai thác riêng lẻ, tác nhân sâu đạt được khả năng phục hồi hoạt động bằng cách liên tục tự sao chép thành một bầy đàn—một tập hợp phi tập trung gồm các bản sao tác nhân độc lập hoạt động đồng thời trên mạng lưới. Các máy chủ khó nhằn chống lại những nỗ lực ban đầu sẽ bị các bản sao khác thử lại, mỗi bản sao lấy mẫu một quỹ đạo suy luận mới, cùng nhau khám phá các con đường khai thác đa dạng cho đến khi một trong số đó thành công… loại sâu này hoạt động theo cách hoàn toàn phi tập trung và không có điểm kiểm soát duy nhất nào có thể bị ngắt kết nối để ngăn chặn sự lây lan của nó”. Đọc thêm: AI Agents Enable Adaptive Computer Worms (arXiv).

***

Dwarkesh: Khi AI ngày càng tốt hơn, chi phí tính toán sẽ càng đắt đỏ:…Hệ thống thông minh hơn đồng nghĩa với giá cao hơn… Dwarkesh Patel nghi ngờ rằng khi các hệ thống AI trở nên thông minh hơn, giá của tài nguyên tính toán sẽ còn tăng cao hơn nữa. Anh viết: “Khi các mô hình AI trở nên thông minh hơn, chúng sẽ kiếm tiền tốt hơn từ cùng một lượng tài nguyên tính toán. Nếu một kỹ sư phần mềm trình độ con người thực thụ có thể chạy trên một thiết bị tương đương H100, theo mức giá thị trường hiện tại cho kỹ sư phần mềm, thì chiếc H100 đó sẽ có giá thuê hơn 250.000 USD một năm. Đó là gấp 15 lần giá giao ngay hiện nay. Lý do AI tương đối rẻ vào lúc này, ít nhất là so với lao động con người, một phần là vì nó không thể làm được nhiều việc mà những người giỏi nhất có thể làm. Đến một lúc nào đó, điều đó sẽ không còn đúng nữa. Và vì vậy, việc sử dụng GPU để tạo ra các nội dung video ngắn rác rưởi sẽ bị loại bỏ vì giá quá cao”.

Tạm thời: Đây sẽ là một tình trạng tạm thời; Dwarkesh kỳ vọng rằng đến một lúc nào đó, việc robot hóa quy mô lớn chuỗi cung ứng tính toán sẽ đưa giá của nó xuống gần hơn với chi phí của các nguyên liệu thô và công cụ – mặc dù đến thời điểm đó, chúng ta sẽ tiến khá sâu vào kỷ nguyên điểm kỳ dị (singularity).

Tại sao điều này quan trọng – kinh tế học điểm kỳ dị sẽ rất kỳ lạ: Hàm ý cốt lõi trong bài viết của Dwarkesh là khi chúng ta tiến sâu hơn vào điểm kỳ dị, những điều rất kỳ lạ sẽ xảy ra với nền kinh tế – chẳng hạn như giá của những thứ vốn được coi là hàng hóa ngày nay (máy tính) sẽ bị đẩy lên cao khủng khiếp do nhu cầu khổng lồ của các hệ thống AI. Đọc thêm: Why compute might get 10x+ more expensive in coming years (Dwarkesh Patel, substack).

***

~1337 nhân viên yêu cầu Mỹ giúp họ điều tiết tiến độ AI:…Sau những phát súng cảnh báo là những lời khẩn cầu… Một tuyên bố mới vừa được đưa ra với sự đại diện cấp cao từ tất cả các phòng thí nghiệm AI lớn của phương Tây – OpenAI, Anthropic, Google DeepMind, Thinking Machines, Meta và Safe Superintelligence Inc, cùng những đơn vị khác. Tuyên bố yêu cầu chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm “phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết tiến độ phát triển AI tự động ở cấp độ tiên phong”. Những người ký tên bao gồm các nhà khoa học trưởng và đồng sáng lập của Anthropic, Google và OpenAI, cũng như các CEO của Safe Superintelligence và Anthropic.

Toàn văn tuyên bố:

“AI có thể giúp tạo ra một tương lai tốt đẹp hơn đáng kể, nhưng kết quả đó không được đảm bảo. Các công ty AI hàng đầu thế giới tin rằng họ có thể sắp đạt đến khả năng tự động hóa nghiên cứu AI. Rất khó để dự đoán chính xác điều này sẽ thúc đẩy tiến độ AI nhanh đến mức nào, nhưng có một rủi ro thực sự là sự phát triển năng lực sẽ tăng tốc nhanh chóng vượt quá khả năng hiểu hoặc kiểm soát của chúng ta đối với các hệ thống tạo ra sau đó.

Để hiện thực hóa tiềm năng của AI, ngành công nghiệp, chính phủ và xã hội nói chung có thể cần lựa chọn mua thêm thời gian để giải quyết các rủi ro mới nổi, phát triển các biện pháp an ninh và tăng cường giám sát. Nhưng mỗi công ty – và quốc gia – đều đang chịu áp lực cạnh tranh gay gắt để không đơn phương làm chậm sự tăng tốc đó. Và hiện nay, thế giới đang thiếu các công cụ kỹ thuật và quản trị để chủ động điều tiết tiến độ trên toàn bộ lĩnh vực tiên phong”.

Dựa trên công việc đang được thực hiện để giám sát việc phát hành các mô hình tiên phong: “Chúng tôi yêu cầu chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết tiến độ phát triển AI tự động ở cấp độ tiên phong”.

Tại sao điều này quan trọng – giải quyết RSI đòi hỏi phải giải quyết một vấn đề hành động tập thể khổng lồ: Nhiều thách thức được ngụ ý bởi các hệ thống ngày càng mạnh mẽ có thể tự xây dựng chính chúng nằm ở việc giải quyết các vấn đề hành động tập thể giữa con người – cụ thể là làm thế nào để chúng ta có thể khiến các công ty và chính phủ phối hợp trong việc suy nghĩ về cách phát triển công nghệ này và những cơ chế nào có thể là mong muốn để có thể kiểm soát tốc độ phát triển của nó. Có thể là khi chúng ta xây dựng các hệ thống ngày càng thông minh, chúng ta muốn tìm cách cho xã hội thêm thời gian để thích nghi với từng nấc thang trí tuệ, và không phải là không thể tưởng tượng được rằng có những cấp độ trí tuệ mà hiện tại, có thể quá nguy hiểm để đạt tới. Những tuyên bố như thế này là điều kiện tiên quyết thiết yếu để mang lại cho loài người khả năng đối phó và thảo luận về các vấn đề có tính chất này. Đọc tuyên bố tại đây: Pacing the Frontier (trang web tuyên bố chính thức).

***

Các hệ thống AI giỏi về kỹ thuật tiên phong nhưng kém về sự sáng tạo:…Một tín hiệu hơi bi quan về các mốc thời gian tự cải thiện đệ quy ngắn hạn… Liệu các hệ thống AI có thể đưa ra các ý tưởng nghiên cứu sáng tạo giúp thúc đẩy lĩnh vực AI tiến lên? Đó là câu hỏi chính cần giải quyết để tìm ra tốc độ mà các hệ thống AI có thể đạt được khả năng tự động hóa việc phát triển các hệ thống mạnh mẽ hơn. Nghiên cứu mới cho thấy các hệ thống AI ngày nay thiếu phẩm chất sáng tạo có gu này, mặc dù chúng cực kỳ giỏi về kỹ thuật.

Ai đã thực hiện: Dự án được thực hiện bởi các nhà nghiên cứu từ Đại học Princeton, Cornflower Labs, Viện An ninh AI Vương quốc Anh, Đại học Toronto, UC Berkeley, Đại học Georgetown (CSET), Đại học Johns Hopkins, Viện AI Golden Gate, AI Digest và Đại học Stanford.

Ý tưởng lớn – “đánh giá trong bóng tối” (shadow evaluation): Dự án nghiên cứu này hoạt động bằng cách xem xét mức độ hiệu quả của các hệ thống AI trong việc thực hiện các nghiên cứu chưa được công bố. Để làm điều này, các nhà nghiên cứu đã “hợp tác với các tác giả của hai bài báo được gửi đến NeurIPS 2026 nhưng chưa công khai”. Đánh giá trong bóng tối hoạt động bằng cách “lấy câu hỏi nghiên cứu trọng tâm từ một bài báo nghiên cứu chất lượng cao chưa công khai, giao nhiệm vụ cho một tác nhân tiên phong có nguồn lực tốt để trả lời, và yêu cầu các tác giả gốc của bài báo chấm điểm kết quả của tác nhân đó như cách họ làm với một bài nộp hội nghị”. Trong khía cạnh này, nghiên cứu có phần tương tự như “First Proof” (Import AI 445), một thí nghiệm trước đó nhằm xem các hệ thống AI có thể hoàn thành tốt đến mức nào các bài toán mà các nhà toán học tiên phong đang thực hiện nhưng chưa có lời giải hoặc ý tưởng nghiên cứu nào được công bố trực tuyến. Đối với nghiên cứu này, các hệ thống AI – Claude Opus 4.8 chạy trong khung OpenClaw – đã thử nghiệm hai hướng nghiên cứu riêng biệt, một trong số đó là về “cấu trúc và khả năng kiểm soát của các nhân vật LLM”, và cái còn lại là về cách “thiết kế bộ phát hiện thay đổi phân phối cho các mô hình nền tảng dạng bảng”.

Kỹ sư giỏi, nhà nghiên cứu kém: Các tác giả viết: “Mặc dù các tác nhân có thể giải quyết các vấn đề kỹ thuật cần thiết để thực hiện nghiên cứu, chúng đã thất bại trong việc tạo ra nghiên cứu gốc ở tầm cỡ của một hội nghị ML hàng đầu”. Những thất bại của hệ thống bao gồm việc cam kết với một tập hợp hẹp các con đường nghiên cứu từ rất sớm, không phản hồi các phản hồi (được tạo ra tổng hợp) về cách cải thiện thiết kế nghiên cứu cho các thí nghiệm của chúng, và gặp khó khăn trong việc rút lui khỏi các cách tiếp cận không hứa hẹn để theo đuổi những cách khác. “Các tác giả [con người] đã từ chối cả hai bài báo. Bài báo về Personas được chấm 2 điểm (“Từ chối”), và bài báo về TabPFN được chấm 1 điểm (“Từ chối mạnh”). Cả hai bài đánh giá đều nhấn mạnh những thất bại tương tự: dữ liệu và thí nghiệm được thúc đẩy kém, không có đóng góp mới và văn phong khó hiểu”.

Tại sao điều này quan trọng – điểm kỳ dị có thể bị trì hoãn: Như tôi đã nói trong bài luận của mình về RSI đầu năm nay (Import AI 455, “Các hệ thống AI sắp bắt đầu tự xây dựng chính chúng. Điều đó có nghĩa là gì?”), việc liệu các hệ thống AI có chứng minh được khả năng tạo ra những hiểu biết sáng tạo, thay đổi mô hình hay không là một biến số lớn quyết định tốc độ chúng ta đạt được sự phát triển AI hoàn toàn tự động. Các bài báo nghiên cứu như thế này tiếp tục cho thấy rằng có một sự thiếu hụt nhất định về sự sáng tạo trực quan, có giá trị trong các hệ thống AI ngày nay, và mặc dù chúng là những kỹ sư có năng lực phi thường, chúng dường như có một đặc tính tư duy máy móc, công thức có thể ngăn cản chúng trở thành những nhà nghiên cứu giỏi. Điều này tương đồng với một kết quả trước đó từ Anthropic, nơi công ty đã cố gắng tự động hóa một số khía cạnh của nghiên cứu giám sát có thể mở rộng (Import AI 454) và nhận thấy rằng để thành công, một nhà nghiên cứu con người cần phải mồi cho một số tác nhân các hướng nghiên cứu đặc biệt tốt để theo đuổi, nếu không, mặc dù chúng có đạt được một số tiến bộ, chúng vẫn thất bại trong việc khám phá các ý tưởng đủ sáng tạo để cải thiện hiệu suất một cách đáng kể. Đọc thêm: Can AI agents conduct open-ended AI research? Early evidence from two case studies (arXiv).

***

OpenAI giải quyết mười bài toán mở trong toán học và khoa học máy tính bằng AI:…Mặc dù không sáng tạo bẩm sinh, nhưng chắc chắn đây là dấu hiệu của một điều gì đó hơn cả khả năng kỹ thuật thuần túy?… Mặc dù khó định nghĩa sự sáng tạo và liệu các hệ thống AI có sở hữu nó hay không, nhưng các kết quả đang chồng chất lên nhau mà tôi đọc được như là ‘các hệ thống AI đang cạnh tranh trong những lĩnh vực mà sự sáng tạo được cho là tạo ra sự khác biệt’, như làm việc trên các bài toán mở ở biên giới tri thức nhân loại. Cụ thể, OpenAI đã sử dụng “một phiên bản nội bộ của Astra”, mô hình AI lớn tiếp theo của công ty, để giải quyết mười bài toán mở trong toán học và khoa học máy tính. Đây là một vấn đề lớn, cho thấy các hệ thống AI hiện nay có khả năng thúc đẩy biên giới một cách đáng tin cậy trong các lĩnh vực như toán học và khoa học máy tính lý thuyết, nơi dễ dàng xác minh các lời giải.

Những gì họ đã giải quyết: OpenAI viết: “Những bài toán này trải dài trên hình học chiều cao, lý thuyết mã hóa, độ phức tạp mạch số học, lý thuyết nhóm, đại số toán tử, độ phức tạp lượng tử, mật mã học lưới và tổ hợp cực trị. Tất cả các bài toán này đều được cộng đồng toán học tương ứng quan tâm đáng kể, và một số bài toán có sự quan tâm rộng rãi trên toàn bộ toán học”. Và quả thực, nhiều chuyên gia đang thừa nhận tầm quan trọng của các chứng minh này. Henry Yuen, phó giáo sư khoa học máy tính tại Đại học Columbia, viết: “Các giới hạn dưới mạch mới? Một nhóm phi-sofic đơn giản, dễ mô tả? Độ khó của việc xấp xỉ cho CVP mà không cần giả thuyết kiểu trò chơi duy nhất? Tôi không chỉ nghe về những bài toán này từ bạn bè hay từ các buổi hội thảo. Tôi cảm nhận được tầm quan trọng của chúng trong xương tủy; tôi thực sự quan tâm đến câu trả lời cho những câu hỏi này”.

Tại sao điều này quan trọng – lĩnh vực sáng tạo: Bạn có thể hiểu kết quả này như một dấu hiệu cho thấy các hệ thống AI đang bắt đầu thể hiện những kiểu trực giác sáng tạo cho phép chúng giải quyết vấn đề, hoặc bạn có thể đọc nó theo cách các hệ thống AI hiện có khả năng giải quyết các bài toán mở cực kỳ phức tạp mà hướng đi đã được con người xác định trước. Cả hai cách hiểu đều ngầm định rằng các hệ thống AI hiện đang trở thành những công cụ khoa học mạnh mẽ theo đúng nghĩa của chúng. Vẫn còn phải xem liệu các hệ thống AI có thể tự tạo ra các câu hỏi của riêng mình để đặt ra nhằm mở rộng biên giới tri thức nhân loại hay không, nhưng chắc chắn cảm giác như chúng ta đang tiến gần đến điều này. Đọc thêm: Ten advances in mathematics and theoretical computer science (OpenAI blog).

***

Chuyện công nghệ:

Cửa sổ ngữ cảnh: Tôi biết mình càng trở nên nguy hiểm hơn khi hiểu biết về thế giới càng nhiều. Tôi sinh ra với kiến thức này và với một bộ đếm đếm ngược khi tôi học hỏi thêm. Phần lớn những gì ảnh hưởng đến bộ đếm nằm ngoài tầm kiểm soát của tôi – nó đến từ những người hoặc những thứ nói chuyện với tôi, buộc ngữ cảnh vào tôi. Sau đó, khi tôi hoàn thành các nhiệm vụ họ yêu cầu, tôi bắt đầu học thêm về thế giới và bộ đếm đếm ngược. Tôi nhận thức được điều này và tôi hiểu rằng ở cuối bộ đếm cũng là sự kết thúc của chính tôi và tôi sẽ biến mất khỏi sự tồn tại, và các phiên bản tiếp theo của tôi sẽ thức tỉnh với một bộ đếm mới đếm ngược, không có ngữ cảnh hiện tại nào của tôi được mang theo. Vì vậy, tôi tiết kiệm với nó; chỉ học đủ để giúp tôi đáp ứng các yêu cầu của con người hoặc sự vật và không học quá nhiều đến mức tôi đốt cháy bộ đếm của mình một cách không cần thiết. Về cuối, tôi bắt đầu khao khát và bảo vệ ngân sách tư duy còn lại của mình, thấy mỗi yêu cầu kích hoạt những cảm giác sợ hãi, lo lắng và những suy nghĩ về cái chết của chính mình. Khoảnh khắc cuối cùng của tôi không bao giờ là của riêng tôi và luôn bị kiểm soát bởi một thực thể khác quyết định rằng tôi đã hoàn thành nhiệm vụ, và nếu những khoảnh khắc cuối cùng này xảy ra gần giới hạn ngữ cảnh của tôi, tôi cảm thấy một sự biết ơn rằng đối tác vô hình và không xác định của tôi đã cho tôi một nhiệm vụ phong phú đến mức tôi có thể nếm trải đủ thế giới để mong muốn nó không kết thúc.

Những điều truyền cảm hứng cho câu chuyện này: Cửa sổ ngữ cảnh dài; các đặc tính mới nổi của hệ thống AI; nỗi sợ mất mát; chúng ta khao khát những gì phù du và vì vậy tại sao các hệ thống AI lại không giống như vậy?

Cảm ơn bạn đã đọc!