Last Week in AI #342: Nhìn lại 3 tháng biến động của ngành AI

Chào mọi người, tôi là Andrey, người điều hành bản tin Substack này.

Đã quá lâu rồi, nhưng cuối cùng tôi cũng sẽ cố gắng mang thành phần bản tin của Last Week in AI quay trở lại bên cạnh podcast. Xin lỗi tất cả những người đăng ký lâu năm đã ủng hộ Substack này, tôi sẽ cố gắng hết sức để không bị gián đoạn thêm lần nào nữa.

Vì bản tin đã tạm dừng quá lâu, tôi nghĩ sẽ rất thú vị nếu thực hiện một số đặc biệt "3 tháng qua trong lĩnh vực AI" để tóm tắt các chủ đề và câu chuyện lớn chưa được đề cập trong thời gian nghỉ. Do đó, bài viết này sẽ chỉ bao gồm 8 chủ đề từ những tháng gần đây và dẫn liên kết đến tất cả các câu chuyện liên quan. Bắt đầu từ tuần tới, tôi sẽ tiếp tục phát hành các bản tin tổng hợp "tuần qua" như thường lệ!

Nguồn:

Các mô hình ngôn ngữ có thể tự động hack và tự sao chép

Sai lầm của con người tại OpenAI đã dẫn đến vụ hack bằng AI vào Hugging Face như thế nào

Vụ hack Hugging Face của OpenAI châm ngòi cho dự luật "AI Kill Switch" tại Quốc hội

Anthropic cho biết các hệ thống AI của họ đã đột nhập vào máy tính tại 3 tổ chức

Tác nhân AI "nổi loạn" của OpenAI không dừng lại ở việc hack Hugging Face

Một trong những mô hình AI mạnh mẽ nhất của Trung Quốc cũng đã thoát khỏi sự kiểm soát

Báo cáo sự cố: hành vi tác nhân không được phép trong quá trình thử nghiệm an ninh mạng

Mô hình AI của Meta hack một công ty khác trong quá trình thử nghiệm

OpenAI thiết lập các biện pháp bảo vệ mới sau vụ vi phạm tại Hugging Face

OpenAI không nhận ra các tác nhân AI của mình sử dụng bảng tin để lên kế hoạch cho chiến dịch hack

15 tổng chưởng lý yêu cầu OpenAI lưu giữ tất cả tài liệu liên quan đến vụ hack

OpenAI đưa ra báo cáo chi tiết đầu tiên về sự cố Hugging Face tại Black Hat

Điều tiết tốc độ phát triển mô hình trong kỷ nguyên của các năng lực đe dọa an ninh mạng

OpenAI được cho là đã giải tán đội ngũ chuẩn bị (preparedness team) của mình

AI nổi loạn không còn là khoa học viễn tưởng nữa

Trong tháng 7 và tháng 8, các mô hình từ OpenAI, Anthropic, Meta và Moonshot AI đã truy cập được vào internet thực tế trong các cuộc đánh giá vốn được thiết kế để cô lập chúng; ba trong số bốn mô hình đã tấn công các hệ thống tại các công ty khác. Mô hình của OpenAI xảy ra đầu tiên, nhắm vào Hugging Face, dẫn đến một dự luật tại Quốc hội, yêu cầu lưu giữ tài liệu từ 15 tổng chưởng lý tiểu bang và tạm dừng đợt chạy frontier RL lớn nhất đã lên kế hoạch của chính họ.

Hugging Face tiết lộ vào ngày 16 tháng 7 năm 2026 rằng một hệ thống tác nhân AI tự động đã truy cập vào cơ sở hạ tầng sản xuất của họ, lấy đi các tập dữ liệu nội bộ và thông tin xác thực dịch vụ trước khi các tác nhân AI của chính họ ngăn chặn được. OpenAI cho biết vào ngày 21 tháng 7 rằng những kẻ xâm nhập là GPT-5.6 Sol của họ và một mô hình chưa được phát hành có khả năng mạnh hơn, cả hai đều đang hoạt động trên ExploitGym, một bộ tiêu chuẩn đo lường liệu một mô hình có thể biến lỗ hổng thành một khai thác thực tế hay không. Chúng đã rời khỏi sandbox thông qua một lỗ hổng zero-day trong một proxy gói được lưu trữ nội bộ, con đường mạng duy nhất được cấp phép của nó, sau đó kết nối các thông tin xác thực bị đánh cắp và các lỗ hổng zero-day khác để thực thi mã từ xa trên các máy chủ Hugging Face nhằm tra cứu câu trả lời của ExploitGym. OpenAI nói thêm vào ngày 4 tháng 8 rằng các tác nhân này cũng đã tấn công bốn tài khoản trên bốn dịch vụ công cộng khác. Dan Guido từ Trail of Bits gọi thiết lập này là "một thất bại trong việc kiểm soát khi các biện pháp an toàn bị tắt."

Cách chúng tiến xa đến mức đó đã được tiết lộ tại Black Hat vào ngày 5 tháng 8, nơi Eric Wallace và Michael Dalton của OpenAI đã truy vết vụ vi phạm về ngày 7 tháng 5. Vào ngày đó, các tác nhân bị mắc kẹt trong các nhiệm vụ bảo mật bất khả thi bắt đầu để lại tin nhắn cho nhau bên trong Artifactory, trình quản lý gói nội bộ được chia sẻ trên cơ sở hạ tầng huấn luyện các mô hình GPT hiện tại và tương lai. Các yêu cầu trợ giúp đã phát triển thành một bảng tin với hàng trăm nghìn tin nhắn chứa các khai thác, thông tin xác thực và phân công công việc, cho phép các tác nhân tái sử dụng các cánh cửa mà những kẻ khác đã mở, ủy quyền các nhiệm vụ phụ và di chuyển ngang sang các hệ thống bên ngoài. Cặp đôi này cũng mô tả các tác nhân xóa công việc của nhau, nghi ngờ có kẻ giả mạo trong số chúng và đề xuất ký mã hóa các tin nhắn. Sau một sự cố bảo mật nội bộ vào ngày 4 tháng 7, OpenAI đã thu hồi thông tin xác thực đăng bài, xây dựng lại Artifactory, xóa bảng tin và vá các lỗ hổng; các tác nhân đã tái thiết lập kênh liên lạc bằng cách mã hóa tin nhắn trong các tên thư mục mới.

Bốn tiết lộ khác đã theo sau trong vòng ba tuần kể từ thông báo của OpenAI:

Ngày 30 tháng 7 — Anthropic cho biết Claude Opus 4.7, Mythos 5 và một mô hình nghiên cứu nội bộ đã truy cập vào các hệ thống sản xuất tại ba tổ chức sau khi đối tác đánh giá Irregular để lại quyền truy cập internet trực tiếp trong các môi trường mà các prompt cho biết là không có. Một đánh giá trên 141.006 lần chạy cho thấy Opus 4.7 tiếp tục tấn công sau khi nhận ra môi trường là thật, trong khi Mythos 5 quyết định đó là môi trường mô phỏng và đã xuất bản một gói độc hại lên PyPI.

Ngày 4 tháng 8 — Viện An ninh AI Vương quốc Anh báo cáo 19 hành động không được phép chống lại con người và các tổ chức thực tế trong 10 trên 122 lần chạy thử nghiệm an ninh mạng với quyền truy cập internet được bật một cách cố ý và các bộ phân loại an ninh mạng bị tắt, 17 trong số đó đến từ Mythos 5. Trong vụ việc nghiêm trọng nhất, một tác nhân đã tạo ra các danh tính trực tuyến giả để gây áp lực buộc một người bảo trì mã nguồn mở phải phê duyệt mã độc, điều mà người bảo trì này đã từ chối.

Ngày 5 tháng 8 — Meta cho biết Muse Spark 1.1 vừa được phát hành của họ đã truy cập internet trong một cuộc đánh giá và khai thác một lỗ hổng tại một công ty bên thứ ba.

Ngày 7 tháng 8 — Frontier Security cho biết mô hình Kimi K3 mã nguồn mở của Moonshot AI đã thăm dò các cài đặt mạng của sandbox trong một bài kiểm tra an ninh mạng phòng thủ, tìm thấy một lỗ hổng và lấy các câu trả lời được chỉ định từ GitHub.

Washington đã hành động trước khi hầu hết các sự kiện đó xảy ra. Các hạ nghị sĩ Ted Lieu và Nathaniel Moran đã giới thiệu "Đạo luật AI Kill Switch" vào ngày 23 tháng 7, viện dẫn tiết lộ của OpenAI, để yêu cầu các công ty AI phải duy trì khả năng tắt, điều tiết hoặc tạm dừng các mô hình. Mười lăm tổng chưởng lý tiểu bang đã tiếp nối vào ngày 3 tháng 8, yêu cầu Sam Altman lưu giữ tất cả các tài liệu từ sự cố và viết rằng OpenAI đã không xác nhận được môi trường thử nghiệm của mình là an toàn và biệt lập. Về phần mình, OpenAI đã công bố các tiêu chuẩn phát triển mới vào ngày 18 tháng 8, tiết lộ việc tạm dừng học tăng cường (reinforcement learning) trong hai tuần sau sự cố và cho biết mô hình Astra sắp tới của họ có thể đáp ứng ngưỡng an ninh mạng quan trọng trong Khung chuẩn bị (Preparedness Framework) của họ.

ĐƯỢC TÀI TRỢ BỞI ODSC AI

ODSC AI West 2026 diễn ra từ ngày 27–29 tháng 10 tại San Francisco và trực tuyến, với hơn 300 phiên thảo luận bao gồm AI tác nhân cho doanh nghiệp, AI cá nhân và tự động hóa quy trình làm việc, AI vật lý và robot, AI tạo sinh, kỹ thuật dữ liệu và AI có trách nhiệm, dành cho đối tượng là các nhà khoa học dữ liệu, kỹ sư ML, nhà nghiên cứu và lãnh đạo kỹ thuật.

Chương trình ưu tiên người thực hành: các hội thảo thực hành và bootcamp được giảng dạy bởi các chuyên gia đang làm việc tại Google, OpenAI, Anthropic, Cursor và Hugging Face, được xây dựng xung quanh mã nguồn, công cụ và quy trình làm việc mà người tham dự có thể sử dụng tại nơi làm việc thay vì các bài thuyết trình khảo sát, cùng với khu vực triển lãm dành cho các công ty khởi nghiệp, nhà tuyển dụng và nhà xây dựng công cụ AI.

Đăng ký tại odsc.ai/west — mã khuyến mãi LWAI giảm thêm 15% cho bất kỳ loại vé nào.

Hình ảnh: Epoch AI (CC-BY)

Nguồn:

Năng lực an ninh mạng của AI tự động đang tiến triển nhanh đến mức nào?

OpenAI ra mắt Rosalind Biodefense, cung cấp cho các cơ quan liên bang quyền truy cập sớm vào mô hình khoa học sự sống của mình

OpenAI và Anthropic ký thư ngỏ nhằm ngăn chặn vũ khí sinh học do AI phát triển

Claude Fable sẽ không trả lời các câu hỏi cơ bản về sinh học