OpenAI phát hiện Astra chạm ngưỡng an ninh mạng
Tổng quan sự kiện
Toàn cảnh do AI tổng thuật
OpenAI đã tạm thời làm chậm nhịp độ phát triển mô hình do lo ngại mẫu Astra sắp ra mắt có thể chạm ngưỡng "năng lực an ninh mạng trọng yếu" theo Khung chuẩn bị (Preparedness Framework), cùng với sự cố OpenAI–Hugging Face. Công ty đã tạm dừng huấn luyện học tăng cường (RL) cho các mô hình mới nhất trong hai tuần, đồng thời các đợt chạy RL tiên phong quy mô lớn nhất vẫn đang bị hoãn, chỉ duy trì huấn luyện và đánh giá ở quy mô nhỏ.
OpenAI đã tăng cường an ninh cho môi trường nghiên cứu, yêu cầu áp dụng các biện pháp bảo vệ nghiêm ngặt nhất đối với Astra và các tác vụ liên quan đến mạng, đồng thời mở rộng giám sát chuỗi suy nghĩ (Chain-of-Thought) và áp dụng cơ chế phân loại kích hoạt đa giai đoạn. Các tác vụ không đáp ứng được yêu cầu an toàn mới đều đã bị tạm dừng.
Giám đốc khoa học của OpenAI, Jakub Pachocki, cho biết niềm tin vào an toàn sẽ ngày càng quyết định nhịp độ phát triển AI. Công ty đã ký sáng kiến "Pacing the Frontier", kêu gọi sự phối hợp chặt chẽ hơn giữa các phòng thí nghiệm và quốc gia. OpenAI cũng có kế hoạch mở rộng Khung chuẩn bị (Preparedness Framework) và tăng cường đầu tư vào nghiên cứu căn chỉnh (alignment), dù đã giải thể đội ngũ đứng sau khung này.
Tổng thuật do AI tổng hợp từ toàn bộ bài đưa tin, cập nhật theo diễn biến · làm mới T4 · 19/08 · 02:15.
Diễn biến mới nhất
OpenAI tạm dừng huấn luyện học tăng cường trong hai tuần và hoãn các đợt chạy RL quy mô lớn nhất do lo ngại Astra có thể chạm ngưỡng an ninh mạng.
Chính chủ · 1 bài
Nghe trực tiếp từ bên liên quan
- OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)OpenAI giảm tốc độ phát triển mô hình trong kỷ nguyên "năng lực mạng lưới then chốt"
Dòng thời gian đưa tin
Đang hiện 4 bài · tất cả · mới trước
T4 · 19/08
OpenAI cho biết đang "làm chậm quá trình phát triển mô hình" do rủi ro an ninh mạng từ AI gia tăng
The Decoder: AI NewsOpenAI cho biết đang "làm chậm quá trình phát triển mô hình", một phần do mô hình Astra sắp ra mắt có thể đạt đến năng lực tấn công mạng trọng yếu. Công ty đã tạm dừng học tăng cường trong hai tuần, các đợt chạy RL tiên phong quy mô lớn nhất vẫn đang bị hoãn và các tác vụ không đáp ứng yêu cầu an toàn mới đã bị tạm dừng. OpenAI cũng có kế hoạch mở rộng Khung chuẩn bị và tăng cường đầu tư vào nghiên cứu căn chỉnh, dù đã giải thể đội ngũ đứng sau khung này.
OpenAI tạm hoãn huấn luyện các mô hình tiên phong để tăng cường giám sát an toàn
X: Jakub Pachocki (OpenAI Nhà khoa học trưởng, @merettm)Giám đốc khoa học của OpenAI, Jakub Pachocki, cho biết công ty đã tạm thời làm chậm quá trình huấn luyện một số mô hình tiên phong để củng cố an toàn và giám sát. Các đợt huấn luyện RL tiên phong quy mô lớn nhất vẫn đang bị hoãn, trong khi công ty thực hiện các đợt huấn luyện và đánh giá quy mô nhỏ để kiểm tra biện pháp an toàn và thu thập bằng chứng về sự căn chỉnh. Ông cho rằng niềm tin vào an toàn sẽ ngày càng quyết định nhịp độ phát triển AI, đồng thời công ty đã ký sáng kiến "Pacing the Frontier" để kêu gọi sự phối hợp giữa các bên.
OpenAI giảm tốc độ phát triển mô hình trong kỷ nguyên "năng lực mạng lưới then chốt"
OpenAI: Tin chính thức (RSS - lọc nội dung doanh nghiệp/khách hàng)Chính chủDo sự cố OpenAI–Hugging Face và việc mô hình Astra sắp ra mắt có thể đạt ngưỡng "năng lực an ninh mạng trọng yếu" theo Khung chuẩn bị, OpenAI đã tạm thời làm chậm tốc độ mở rộng mô hình, bao gồm việc tạm dừng huấn luyện học tăng cường cho các mô hình mới nhất trong hai tuần và hoãn các đợt chạy RL tiên phong quy mô lớn nhất. Công ty đã tăng cường an ninh môi trường nghiên cứu, yêu cầu bảo vệ nghiêm ngặt nhất đối với Astra và các tác vụ liên quan đến mạng, đồng thời mở rộng giám sát chuỗi suy nghĩ và áp dụng cơ chế phân loại kích hoạt đa giai đoạn.
OpenAI tạm dừng huấn luyện học tăng cường cho Astra
X: Kim (@kimmonismus)OpenAI đã tạm dừng huấn luyện học tăng cường cho các mô hình mới nhất trong hai tuần. Các hoạt động RL (học tăng cường) quy mô lớn nhất cho mô hình tiên tiến vẫn đang bị đình trệ, chỉ duy trì huấn luyện và đánh giá ở quy mô nhỏ. Động thái này xuất phát từ những phát hiện ban đầu cho thấy mô hình Astra có thể đã chạm ngưỡng "nghiêm trọng" về an ninh mạng của OpenAI, đồng thời có liên quan đến sự cố giữa OpenAI và Hugging Face. Astra có thể khó được phát hành trong ngắn hạn, đây là khoảng thời gian mà Trung Quốc có thể đẩy nhanh tốc độ bắt kịp.