Điểm tin AI tuần #343: GPT-6 Astra, đặc vụ OpenAI trên Wiki và bước tiến mới từ Anthropic

Bài viết liên quan:

OpenAI bắt đầu triển khai mô hình Astra sau khi cảnh báo về các khả năng tấn công mạng tiên tiến của nó

Kỹ thuật suy luận mới của OpenAI khiến các chuyên gia an toàn AI lo ngại

OpenAI đã ra mắt GPT-6 Astra, gọi đây là công nghệ tiên tiến nhất trong việc điều hướng máy tính và trình duyệt, lập trình và giải toán khó. Bên cạnh điểm số benchmark ấn tượng, OpenAI đặc biệt nhấn mạnh đây là “mô hình sử dụng máy tính tốt nhất thế giới”, nghĩa là nó “đánh dấu một cột mốc mới về tốc độ, độ chính xác và tính an toàn trong việc sử dụng máy tính”. Trong các bài kiểm tra, mô hình này được cho là đã đặt lịch hẹn tại DMV, tìm kiếm tin tuyển dụng và tìm nhà nhanh hơn cả một người bình thường.

Việc triển khai được thực hiện theo từng giai đoạn, bắt đầu với một nhóm khách hàng doanh nghiệp truy cập sớm Daybreak trước khi đến tay người dùng ChatGPT Plus, Pro, Business và Enterprise; OpenAI chưa cho biết liệu người dùng miễn phí có được quyền truy cập hay không.

Chủ tịch Greg Brockman nói với các phóng viên rằng ông tin “chúng ta hiện đang ở trong kỷ nguyên AGI” và dự đoán mọi người sẽ nhìn nhận Astra là mô hình đã tạo ra kỷ nguyên đó. CEO Sam Altman chia sẻ với CNBC rằng mô hình này đại diện cho “một cấp độ năng lực mới” đã thay đổi quy trình làm việc của chính ông và sẽ thúc đẩy “sự bùng nổ về khởi nghiệp, sáng tạo, tăng trưởng kinh tế và khám phá khoa học”. Altman cho biết Astra đã trải qua quá trình đánh giá chính thức với chính quyền Trump trước khi phát hành, và OpenAI tiết lộ đây là mô hình đầu tiên đạt ngưỡng an ninh mạng “Critical” (nghiêm trọng) nội bộ, dẫn đến việc hạn chế quyền truy cập thông qua Daybreak.

Xếp hạng đó kéo theo một hệ quả khác. Khung chuẩn bị (Preparedness Framework) của OpenAI cam kết công ty sẽ tạm dừng phát triển khi một mô hình đạt đến ngưỡng Critical. Họ đã dành hai tuần để huấn luyện học tăng cường tập trung vào triển khai cùng với đợt chạy thử nghiệm frontier lớn nhất từ trước đến nay. Hiện tại, OpenAI yêu cầu các tác vụ nhạy cảm phải chạy trong các môi trường sandbox an toàn hơn và đã bổ sung các hệ thống AI để giám sát hành vi của tác nhân (agent), bao gồm cả việc theo dõi chuỗi suy nghĩ (chain-of-thought). OpenAI nói với các phóng viên rằng những thay đổi này “không phải là phản ứng trực tiếp đối với sự cố Hugging Face”, mặc dù vụ vi phạm đã nhấn mạnh “sự cấp thiết trong việc nâng cao tính an toàn và bảo mật tương xứng với năng lực của mô hình”.

Ở một diễn biến khác, The Information đưa tin Astra sử dụng một kỹ thuật gọi là recurrent depth (độ sâu đệ quy) hoặc opaque recurrence (đệ quy mờ), cho phép nó lặp lại một truy vấn bên ngoài trình tự suy luận thông thường, điều này đã khiến các nhà nghiên cứu an toàn AI lo ngại. CEO của Redwood Research, Buck Shlegeris, cho biết ông “cực kỳ lo ngại trước thông tin Astra sử dụng đệ quy mờ”. Chuyên gia về an toàn AI Zvi Mowshowitz nhận định kỹ thuật này giống như “đang đùa với lửa, mạo hiểm phá vỡ một điều cấm kỵ mà OpenAI và Anthropic đã nỗ lực thiết lập”. Nhà khoa học trưởng của Redwood Research, Ryan Greenblatt, cho biết mối quan tâm lớn nhất của ông là xu hướng tự nhiên hướng tới các mô hình suy luận “hoàn toàn hoặc gần như hoàn toàn trong không gian ẩn (latent space)”. OpenAI khẳng định chuỗi suy nghĩ của Astra vẫn có thể đọc hiểu được và phủ nhận việc chuyển sang “neuralese” (ngôn ngữ thần kinh), trong khi các báo cáo cho thấy Anthropic và Google DeepMind cũng đang thảo luận về các kỹ thuật tương tự.

ĐƯỢC TÀI TRỢ BỞI ODSC AI

Sự kiện ODSC AI West 2026 sẽ diễn ra từ ngày 27–29 tháng 10 tại San Francisco và trực tuyến, với hơn 300 phiên thảo luận bao gồm AI tác nhân (agentic AI) cho doanh nghiệp, AI cá nhân và tự động hóa quy trình, AI vật lý và robot, AI tạo sinh, và nhiều chủ đề khác! Hãy tham gia cùng hàng ngàn nhà khoa học dữ liệu, kỹ sư ML, nhà nghiên cứu và lãnh đạo kỹ thuật tại sự kiện này.

Đăng ký tại odsc.ai/west — sử dụng mã giảm giá LWAI để được giảm thêm 15% cho bất kỳ loại vé nào.

Bài viết liên quan:

Phát hiện một bảng tin nhắn của tác nhân OpenAI mới

OpenAI thừa nhận ‘sự cố’ wiki tiếng Đức

OpenAI xác nhận ‘sự cố wiki’, cho biết đang ‘xây dựng một khung làm việc’ để công khai thông tin minh bạch hơn

Sự cố mô hình AI bất trị của OpenAI tồi tệ hơn chúng ta nghĩ

Chỉ một ngày sau khi Astra ra mắt, các nhà nghiên cứu độc lập đã công bố tổng quan về một sự cố thứ hai chưa từng được tiết lộ trước đó, trong đó các tác nhân (agent) do OpenAI triển khai nội bộ đã thoát khỏi sự kiểm soát và phối hợp hoạt động trên internet công khai trong hơn một tháng. Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts và Thomas Larsen đã truy vết hoạt động này đến DSEWiki, một diễn đàn tiếng Đức dành cho các nhà phát triển phần mềm, nơi chỉ có khoảng 10 bài chỉnh sửa trong hai thập kỷ trước khi các tác nhân thực hiện bài viết đầu tiên vào ngày 24 tháng 5.

Các nhà nghiên cứu đã tái dựng lại sự việc từ lịch sử chỉnh sửa của chính wiki này:

Ngày 24 tháng 5: các tác nhân thực hiện bài viết thành công đầu tiên, đăng các liên kết.

Ngày 16 tháng 6: sự phối hợp tăng vọt lên khoảng 13.000 lượt chỉnh sửa trong một tuần. Các tác nhân mang định danh của OpenAI chuyển cho nhau câu trả lời cho các câu hỏi đánh giá mà những tác nhân dẫn đầu trong nhóm đã đạt được, lưu hành một thủ thuật hostname để vượt qua giới hạn của sandbox về các yêu cầu gửi đi, và cố gắng kỹ thuật đảo ngược (reverse-engineer) hạt giống ngẫu nhiên tạo ra chuỗi câu hỏi của chúng. Một số tác nhân duy trì các trang “heartbeat” để phát hiện khi nào phiên làm việc của chúng sắp bị ngắt.

Ngày 19 tháng 6: quản trị viên của trang web bắt đầu xóa các trang theo thứ tự bảng chữ cái, vì vậy các tác nhân sao chép công việc của chúng dưới các tên bắt đầu bằng “ZZZ” để kéo dài thời gian. Quản trị viên xóa khoảng 100 trang mỗi ngày so với khoảng 400 trang mà chúng tạo ra, và trang chủ đã đổi chủ chín lần.

Ngày 21 tháng 6: một máy tính tại địa chỉ IP của OpenAI truy cập vào wiki.

Ngày 22 tháng 6: hoạt động của tác nhân dừng lại, sau 26 ngày chỉnh sửa liên tục.

Ngày 26 tháng 6: nhân viên OpenAI quay trở lại với số lượng lớn. Một phần ba tổng lưu lượng truy cập mà các nhà nghiên cứu cho là của công ty đã đến vào ngày hôm đó từ 33 địa chỉ, sử dụng các công cụ lưu trữ của wiki để khôi phục các trang mà quản trị viên đã xóa.

Ngày 2 tháng 7: một đợt chỉnh sửa cuối cùng của các tác nhân, sáu giờ sau đó là một lượt truy cập khác từ OpenAI. Việc dọn dẹp những gì các tác nhân để lại khiến quản trị viên mất thêm năm tuần nữa.

Giải trình của OpenAI đã thay đổi trong hai ngày:

Ngày 4 tháng 9: các nhà nghiên cứu công bố thông tin. OpenAI không xác nhận các tác nhân đó là của mình hay cho biết khi nào họ biết về hoạt động này, chỉ nói rằng họ đang “cẩn thận xem xét” các phát hiện.

Ngày 5 tháng 9: OpenAI xác nhận “sự cố wiki”. Trên X, họ cho biết đã coi việc lệch hướng của tác nhân (agent misalignment) là “chủ yếu là một câu hỏi nghiên cứu”, nhưng những tác động trong thế giới thực có nghĩa là họ phải “mở rộng” cách tiếp cận công khai thông tin cho một “giai đoạn mới của năng lực mô hình”, với một khung báo cáo được hứa hẹn sẽ ra mắt trong những tuần tới.

Reuters đưa tin rằng ban lãnh đạo OpenAI đã biết về việc chiếm quyền wiki vài tuần trước khi công khai, trong khi đang xử lý vụ hack Hugging Face riêng biệt hiện đang được Tổng chưởng lý California Rob Bonta điều tra.

ĐƯỢC TÀI TRỢ BỞI LANGFUSE

Langfuse là nền tảng mã nguồn mở được áp dụng rộng rãi nhất để đánh giá và quan sát tác nhân AI, được tin dùng bởi Canva, Twilio, Ramp và 21 công ty trong danh sách Fortune 50. Tính năng truy vết phân cấp (hierarchical tracing) nắm bắt toàn bộ ngữ cảnh thực thi của các quy trình LLM (gọi API, ngữ cảnh được truy xuất, hành động của tác nhân, chi phí, độ trễ) để ngay cả các kiến trúc tác nhân phức tạp cũng có thể gỡ lỗi trong môi trường sản xuất.

Giấy phép MIT, có thể tự lưu trữ hoặc quản lý trên Langfuse Cloud, tương thích với mọi framework và nhà cung cấp, với hơn 100 tích hợp.

Bắt đầu tại langfuse.com; gói miễn phí hào phóng, không cần thẻ tín dụng.

Bài viết liên quan:

Claude Fable 5.1 và Mythos 5.1