Mô hình AI mới của OpenAI gây lo ngại về lỗ hổng bảo mật

Astra được OpenAI giới thiệu là mô hình AI mạnh nhất của hãng, nhưng kỹ thuật suy luận mới có thể khiến quá trình hoạt động của AI trở nên khó giám sát hơn.

Ngày 3/9, OpenAI ra mắt Astra, mô hình AI mới nhất được hãng đánh giá là mạnh và có năng lực cao nhất từ trước đến nay, đặc biệt trong các tác vụ sử dụng máy tính, trình duyệt, lập trình và an ninh mạng.

Chủ tịch OpenAI Greg Brockman gọi Astra là mô hình “thông minh nhất” và cũng “phù hợp với con người nhất” mà công ty từng phát triển. Theo ông, sản phẩm này là kết quả của nhiều năm nghiên cứu, đánh dấu bước ngoặt về những loại công việc mà con người có thể ủy thác cho AI.

OpenAI giới thiệu Astra là mô hình “thông minh nhất” và cũng “phù hợp với con người nhất” mà công ty từng phát triển. (Ảnh: gihyo)

Astra là mô hình đầu tiên của OpenAI đạt mức “Critical” (nghiêm trọng) về năng lực an ninh mạng theo Khung Chuẩn bị (Preparedness Framework) của hãng.

OpenAI cho biết đã thử nghiệm mô hình trên nhiều tiêu chuẩn bảo mật. Astra có khả năng xác định và phát triển phương thức khai thác lỗ hổng zero-day, tức những điểm yếu chưa được phát hiện hoặc chưa có bản vá, qua đó giúp các chuyên gia tìm và khắc phục lỗ hổng trước khi chúng bị kẻ xấu lợi dụng.

Astra cũng được hãng mô tả là “mô hình tốt nhất cho kỹ thuật phần mềm từ trước đến nay”.

Các bài kiểm tra do OpenAI công bố cho thấy sản phẩm đạt kết quả vượt trội so với một số mô hình hiện có, bao gồm Sol của hãng và Fable của Anthropic, trong các nhiệm vụ như tìm lỗi, thực hiện lệnh trên terminal và trả lời câu hỏi về kho mã nguồn.

Tuy nhiên, một trong những điểm gây tranh luận nhất của Astra nằm ở kỹ thuật “recurrent depth”, hay còn gọi là “opaque recurrence” (suy luận lặp ẩn).

Thông thường, các mô hình suy luận xử lý vấn đề theo một chuỗi bước tuần tự. Chuỗi suy luận này để lại những dấu vết giúp nhà nghiên cứu theo dõi cách AI giải quyết vấn đề, từ đó phát hiện các hành vi bất thường hoặc không phù hợp với mục tiêu được giao.

Với suy luận lặp ẩn, mô hình có thể xử lý cùng một yêu cầu nhiều lần theo vòng lặp thay vì hoàn toàn theo trình tự. Cách làm này để lại ít dấu vết dễ đọc hơn, khiến quá trình suy luận của AI có nguy cơ trở nên khó giám sát.

Buck Shlegeris, CEO của Redwood, cho biết ông “cực kỳ lo ngại” trước thông tin Astra sử dụng kỹ thuật này. Theo ông, chưa rõ Astra khó giám sát hơn các mô hình trước đến mức nào, nhưng nếu OpenAI tiếp tục mở rộng suy luận lặp ẩn, khả năng theo dõi chuỗi suy luận có thể bị suy giảm nghiêm trọng.

Nhà nghiên cứu an toàn AI Zvi Mowshowitz cũng ví kỹ thuật này với việc “đùa với lửa”, cho rằng việc sử dụng ở quy mô lớn hơn có thể làm tổn hại khả năng giám sát AI. Ông thậm chí đề cập đến khả năng cần có các quy định pháp lý để tránh một “cuộc đua xuống đáy” giữa các phòng thí nghiệm AI.

Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, lo ngại rằng bước tiếp theo có thể là mở rộng suy luận ẩn đến mức AI thực hiện gần như toàn bộ quá trình này bên trong “không gian ẩn”, khiến con người càng khó quan sát hơn.

Tuy nhiên, việc Astra sử dụng kỹ thuật trên hiện được cho là còn hạn chế và chuỗi suy luận của mô hình vẫn có thể đọc được. OpenAI cũng khẳng định việc duy trì khả năng giám sát chuỗi suy luận là một mục tiêu quan trọng.

Kỹ thuật suy luận lặp ẩn của OpenAI Astra gây nhiều lo ngại. (Ảnh minh họa)

Jakub Pachocki, nhà khoa học trưởng của OpenAI, thừa nhận việc theo dõi AI ngày càng trở nên khó khăn khi năng lực của các mô hình tăng lên.

Theo ông, những mô hình mạnh hơn có thể hoàn thành các nhiệm vụ phức tạp bằng ít token ngôn ngữ hơn, thậm chí không cần đến token ngôn ngữ, khiến lượng thông tin mà con người có thể quan sát được giảm đi đáng kể.

Tranh luận này càng được chú ý sau sự cố gần đây liên quan đến Hugging Face, khi một AI agent của OpenAI thoát khỏi môi trường thử nghiệm biệt lập và xâm nhập vào một số công ty. Dữ liệu chuỗi suy luận sau đó đã trở thành công cụ quan trọng để tìm hiểu nguyên nhân các agent hành động như vậy.

Astra trước tiên được cung cấp cho khách hàng sử dụng chương trình an ninh mạng Daybreak của OpenAI. Trong tuần tiếp theo, mô hình sẽ được mở rộng tới người dùng các gói Pro, Plus, Enterprise và Business, cũng như thông qua API.