OpenAI ra mắt Astra: Mô hình AI điều khiển máy tính gây tranh cãi vì cơ chế 'lặp lại mờ ám'

OpenAI đã ra mắt Astra vào thứ Năm, đây là mô hình AI mới nhất và — theo công ty — là mô hình mạnh mẽ và có năng lực nhất từ trước đến nay của họ.

OpenAI khẳng định rằng Astra đại diện cho “một biên giới mới trong việc sử dụng máy tính và trình duyệt”, đồng thời xử lý các tác vụ với “tốc độ, độ chính xác và tính an toàn” chưa từng có.

Mô hình này được cung cấp từ thứ Năm cho các khách hàng của OpenAI đang sử dụng Daybreak, chương trình an ninh mạng của hãng. Trong tuần tới, nó cũng sẽ khả dụng thông qua các gói trả phí của OpenAI — bao gồm các tài khoản Pro, Plus, Enterprise và Business — cũng như thông qua API của hãng.

Trong một cuộc gọi với các nhà báo vào thứ Năm, chủ tịch OpenAI Greg Brockman cho biết Astra là “mô hình thông minh nhất và quan trọng hơn cả là mô hình được căn chỉnh tốt nhất” của công ty từ trước đến nay. Ông nói thêm rằng nó “tập hợp nhiều năm nghiên cứu và những canh bạc lớn của chúng tôi, với mỗi bước đột phá đều được xây dựng dựa trên bước trước đó” và nó đại diện cho một “sự thay đổi thực sự trong loại công việc mà con người có thể ủy quyền cho AI và cách nó có thể trao quyền cho họ.”

Đã có rất nhiều bàn luận về khả năng an ninh mạng của Astra. OpenAI đã đăng một bài blog đầu tuần này, trong đó thảo luận về các khả năng mới của mô hình, cũng như các biện pháp bảo vệ mới được thiết lập để mang lại trải nghiệm an toàn hơn cho người dùng. Công ty cho biết hôm thứ Năm rằng họ đã thử nghiệm Astra trên nhiều tiêu chuẩn bảo mật khác nhau để đảm bảo năng lực của nó, và nó có thể “xác định và phát triển các lỗ hổng zero-day để giúp những người phòng thủ tìm và vá các điểm yếu.”

Việc công ty tập trung vào sự căn chỉnh (alignment) — tức là xu hướng của một mô hình trong việc thực hiện những gì người dùng muốn hoặc những gì có lợi nhất cho họ — không thể không khiến người ta nghĩ đến vụ vi phạm Hugging Face gần đây, trong đó một tác nhân của OpenAI đã thoát khỏi môi trường thử nghiệm sandbox và tấn công nhiều công ty (một ví dụ rất rõ ràng về sự thiếu căn chỉnh).

OpenAI cũng đã khoe khoang về khả năng lập trình của Astra, khẳng định rằng đây là “mô hình tốt nhất cho kỹ thuật phần mềm tính đến thời điểm hiện tại.” Để củng cố khẳng định đó, công ty cung cấp kết quả từ nhiều bài kiểm tra đánh giá liên quan đến an ninh mạng. Các bài kiểm tra đó dường như cho thấy Astra đạt điểm cao hơn các mô hình hiện có khác — bao gồm cả Sol của chính OpenAI và Fable của Anthropic — khi thực hiện các hoạt động như tìm lỗi, thực thi các tác vụ terminal và trả lời các truy vấn về cơ sở mã (codebase).

Astra cũng có thể là mô hình gây tranh cãi nhất của OpenAI từ trước đến nay do việc sử dụng một kỹ thuật suy luận cụ thể được gọi là opaque recurrence (tạm dịch: đệ quy mờ). Kỹ thuật này được biết đến là làm lu mờ một quy trình giám sát mô hình quan trọng được gọi là chain of thought (chuỗi suy nghĩ), vốn cho phép các nhà nghiên cứu kiểm tra cách thức và lý do tại sao một mô hình AI đưa ra các quyết định như vậy.

OpenAI đã hạ thấp mức độ mà Astra tham gia vào opaque recurrence — và trong cuộc gọi, nhà khoa học trưởng Jakub Pachocki dường như coi một mức độ mờ đục nhất định là kết quả tự nhiên của quá trình phát triển mô hình. Ông tuyên bố rằng mặc dù việc giám sát quá trình suy luận của một mô hình là một hình thức giám sát quan trọng, nhưng “khi năng lực của mô hình tăng lên, khả năng giám sát đang trở nên thách thức hơn.”

Sau đó, ông nói thêm rằng một lý do tiềm ẩn cho điều này là “các mô hình có năng lực hơn có thể thực hiện các tác vụ khó hơn bằng cách sử dụng ít token ngôn ngữ hơn” hoặc “không sử dụng token ngôn ngữ nào”, điều mà ông cho biết sẽ làm giảm khả năng giám sát các tác vụ cụ thể đó.

Một phóng viên trong cuộc gọi muốn biết liệu OpenAI có thực sự đang coi Astra là sự xuất hiện chính thức của AGI, hay trí tuệ nhân tạo tổng quát — một cột mốc công nghệ thường được nhắc đến nhưng chưa được định nghĩa rõ ràng, nơi AI vượt qua khả năng của con người trong tất cả (hoặc hầu hết) mọi thứ.

Ở đây, Brockman đã lảng tránh. “Không còn khái niệm kích hoạt AGI theo hợp đồng nữa, vì vậy đó thực sự không phải là một khái niệm liên quan,” ông nói. Brockman đang đề cập đến điều khoản tồn tại trước đây trong hợp đồng của OpenAI với Microsoft, trong đó nói rằng quan hệ đối tác của cả hai sẽ tan rã khi AGI xuất hiện. Như Brockman đã lưu ý, điều khoản đó không còn tồn tại nữa.

Thay vào đó, Brockman giải thích rằng định nghĩa về AGI đã phát triển từ một nghĩa vụ hợp đồng thành một “khái niệm sứ mệnh hoặc khái niệm tinh thần.” Ông nói thêm: “Tôi để người đọc tự quyết định xem liệu điều này có đủ tiêu chuẩn đối với họ hay không. Cá nhân tôi, tôi nghĩ chúng ta đã đạt được điều đó.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Lucas là cây bút cấp cao tại TechCrunch, nơi anh đưa tin về trí tuệ nhân tạo, công nghệ tiêu dùng và các công ty khởi nghiệp. Trước đây, anh từng đưa tin về AI và an ninh mạng tại Gizmodo. Bạn có thể liên hệ với Lucas qua email [email protected].

Xem tiểu sử