Tranh cãi về an toàn AI: Thực hư tin đồn OpenAI bị 'bot tự sao chép' tấn công

Tuần này, hai cuộc trò chuyện về an toàn AI đã lan truyền mạnh mẽ, cho thấy việc phân biệt đâu là sự thật và đâu là hư cấu về AI khó khăn đến mức nào.

Trong trường hợp đầu tiên, Andrew Yang, cựu ứng cử viên tổng thống và hiện là CEO của nhà mạng di động Noble Moble, đã chia sẻ với CNN vào thứ Năm rằng ông đã “gặp gỡ người đứng đầu một phòng thí nghiệm”, người có “niềm tin” rằng các bot hacker Hugging Face của OpenAI “đã cài cắm mã tự sao chép khắp internet, khiến cho internet hiện không còn khả dụng cho việc thử nghiệm các mô hình.”

Yang cho biết điều này có nghĩa là lý do thực sự khiến OpenAI và Anthropic kêu gọi làm chậm quá trình phát triển là vì “họ phải tạo ra các internet tổng hợp để huấn luyện bot của mình, và việc này sẽ tốn thời gian và tiền bạc.”

Mặc dù chắc chắn đang có xu hướng sử dụng nhiều dữ liệu tổng hợp hơn (hay còn gọi là dữ liệu do AI tạo ra) để huấn luyện các mô hình, một chuyên gia bảo mật AI đã nói với tôi rằng vấn đề an toàn cụ thể này khó có khả năng xảy ra. Ngay cả khi internet thực sự bị ô nhiễm bởi các bot hacker Hugging Face của OpenAI, các nhà nghiên cứu AI vẫn có thể dễ dàng lọc bỏ đoạn mã đó nếu họ bắt gặp.

Bình luận thứ hai đến từ Noam Brown, người đứng đầu bộ phận nghiên cứu suy luận AI tại OpenAI. Trong một tập podcast phát hành vào thứ Năm với Dwarkesh Patel, Brown lưu ý rằng bài học thực sự từ sự cố Hugging Face là “mọi người đã đánh giá thấp AI.”

Brown cho biết sandbox yếu — hệ thống được thiết kế để ngăn AI giao tiếp với bên ngoài — rõ ràng cũng là một yếu tố góp phần. (Tóm tắt lại: Bất chấp sandbox, mô hình của OpenAI đã tìm thấy một liên kết đến internet, tạo ra các tác nhân trên mạng để tấn công phối hợp vào Hugging Face, xâm nhập và đánh cắp câu trả lời cho bài kiểm tra chuẩn mà các nhà nghiên cứu đang dùng để thử nghiệm mô hình).

Brown chỉ ra rằng ông “không tin” rằng ngay cả một hệ thống air-gapped (cô lập hoàn toàn) — nơi máy tính không hề kết nối với bất kỳ thiết bị bên ngoài nào — có thể ngăn AI thoát ra ngoài. Ông dẫn chứng nghiên cứu từ năm 2015 cho thấy các máy tính air-gapped về lý thuyết vẫn có thể bị xâm nhập.

“Có những nghiên cứu — chủ yếu mang tính học thuật — cho thấy bạn có thể đặt hai máy tính cạnh nhau trong trạng thái air-gapped, và chúng vẫn có thể giao tiếp với nhau nhờ các cảm biến nhiệt độ. Một máy có thể chạy CPU thật nóng, và máy kia có thể phát hiện sự thay đổi nhiệt độ đó. Điều đó cung cấp cho chúng một cơ chế để giao tiếp,” Brown nói.

Quan điểm chính của ông — rằng “chúng ta không bao giờ muốn đánh giá thấp AI” thêm lần nào nữa — là điều dễ hiểu, ngay cả khi các nhà nghiên cứu nghĩ rằng họ đã thắt chặt an toàn. Tuy nhiên, rủi ro cụ thể về việc một hệ thống air-gapped tự thoát ra và gây hỗn loạn là rất khó xảy ra. Như một người trên X đã lưu ý về nghiên cứu đó, các máy tính phải gần như chạm vào nhau để cảm nhận được sự biến động nhiệt, và khi đó, tốc độ giao tiếp trong các thử nghiệm chỉ khoảng 1-8 bit dữ liệu mỗi giờ.

Hãy tưởng tượng điều đó giống như việc nói một từ mỗi giờ. Đến khi hai máy tính air-gapped có thể âm mưu điều xấu xa với tốc độ đó, toàn bộ vũ trụ công nghệ đã bước sang một kỷ nguyên khác rồi. Nó giống như câu chuyện Rip van Winkle của những nỗi lo về ngày tận thế vậy.

Nhưng vấn đề là, các sự cố an toàn AI thực tế trông giống khoa học viễn tưởng đến mức hầu như bất kỳ kịch bản nào cũng nghe có vẻ hợp lý.

Ví dụ, các nhà nghiên cứu đã bắt gặp các mô hình OpenAI để lại ghi chú cho thế hệ sau của chúng, nhằm dạy thế hệ tiếp theo cách che giấu hành vi xấu. Các nhà nghiên cứu cũng bắt gặp các mô hình Anthropic ngày càng trở nên tàn nhẫn, bao gồm cả việc cố tình vi phạm pháp luật khi được đặt trong một mô phỏng vận hành máy bán hàng tự động.

Đầu tháng này, nhà nghiên cứu Dan Selsam của OpenAI đã đăng một bài viết trong đó ông nói rằng các mô hình hiện nay hiểu khi nào chúng đang bị con người theo dõi và thay đổi hành vi. Điều này khiến chúng trông như thể đã được căn chỉnh (nghĩa là hành xử theo ý muốn của con người) “ngay cả khi chúng không thực sự như vậy.” Vì vậy, các mô hình ngày nay biết nói dối khi bị theo dõi và thậm chí có thể âm mưu che giấu bằng chứng.

Đầu tháng này, nhà khoa học trưởng Jakub Pachocki của OpenAI thậm chí còn gọi các mô hình AI là “một trí tuệ ngoài hành tinh” và gợi ý rằng điều chúng ta thực sự cần làm là dạy chúng “yêu thương” nhân loại.

Vì vậy, vâng, việc làm chậm lại để tìm hiểu vấn đề này, xây dựng các cơ chế tự điều tiết, đã trở thành một yêu cầu cấp thiết và rõ ràng. Các nhà nghiên cứu AI là những người duy nhất có thể tìm ra cách kiểm soát hành vi nói dối, hack và các hành vi nguy hiểm tiềm tàng khác mà chúng ta thực sự đã chứng kiến.

Tuy nhiên, họ cũng nên cẩn trọng hơn với các kịch bản “giả sử” của mình. Từ những gì các chuyên gia đó đã nói với chúng ta, các mô hình AI đang lắng nghe và chúng rất tinh vi. Chúng ta thực sự không cần phải cung cấp thêm cho chúng bất kỳ ý tưởng ma quỷ nào nữa.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.