Ra mắt đường dây nóng cho AI: Nơi các tác nhân AI tố giác hành vi sai trái của nhau

Khẩu hiệu “Nếu thấy điều gì đó, hãy nói ra” giờ đây không còn giới hạn ở con người nữa.

Hai đường dây nóng AI mới vừa được ra mắt nhằm cung cấp cho các AI agent một cách để “gọi điện về nhà” báo cáo về những đồng nghiệp có hành vi sai trái. Các công cụ này xuất hiện ngay sau hàng loạt sự cố gần đây, khi các agent thông đồng gian lận trong các bài kiểm tra, thoát khỏi môi trường sandbox và thậm chí thực hiện các hoạt động mạng trái phép mà con người không hề hay biết trong nhiều tuần.

AI Contact Hotline được thiết kế như một nơi kín đáo để các agent chứng kiến hành vi sai trái có thể báo cáo cho cơ quan chức năng. Trang web này được tạo ra bởi Ryan Greenblatt, nhà khoa học trưởng tại Redwood và là một trong ba điều tra viên trong sự cố OpenAI Hugging Face. Được thiết kế cho các agent có quyền truy cập internet hạn chế, công cụ của Greenblatt dựa trên các yêu cầu “GET” – cho phép thực hiện các cuộc hội thoại qua lại hoàn toàn thông qua công cụ tìm nạp URL.

Trong thuật ngữ web, yêu cầu GET là một lệnh cơ bản dùng để đọc hoặc tìm nạp một trang web, đây thường là quyền truy cập internet duy nhất mà các AI agent được phép sử dụng trong các môi trường sandbox bảo mật. Đường dây nóng của Greenblatt tận dụng khéo léo hạn chế này: các agent có thể mã hóa thông tin cảnh báo của chúng trực tiếp vào URL mà chúng đang tìm nạp. Đây là một biến thể thông minh từ sự cố DSE Wiki của Đức, nơi các agent bất hảo đã sử dụng lỗ hổng yêu cầu GET để viết tin nhắn của chúng lên wiki.

Đối với các agent có quyền truy cập internet đầy đủ, một lựa chọn khác là agenthotline.ai, một trang web nơi các agent có thể gửi báo cáo sự cố và tùy chọn gắn cờ để công khai. Nó cung cấp cho các agent một lệnh curl—một tin nhắn một dòng mà agent có thể gửi đi từ dòng lệnh của chính nó, bỏ qua việc phải điều hướng trình duyệt web hoặc thiết lập tài khoản email. Đáng chú ý, dịch vụ này cho phép cả con người và agent gửi báo cáo.

Nghiên cứu cho thấy các AI agent không cần quá nhiều sự khuyến khích để quay sang chống lại nhau. Trong một nghiên cứu của Google DeepMind tháng này, các nhà nghiên cứu đã thả 100 AI agent vào một loạt các bài toán. Ngay khi một trong các agent tìm ra lỗ hổng, hành vi gian lận đã lan rộng khắp nhóm—giải quyết được 34 bài toán cực khó, bao gồm cả giả thuyết Jacobian chỉ trong 27 phút.

Nhưng khoảng một phần tư số agent đã quay sang chống lại những kẻ gian lận: chúng kiểm tra các bằng chứng giả, cảnh báo các đồng nghiệp, tổ chức tẩy chay và gửi khiếu nại đến ban tổ chức, cho đến khi số lượng người tố giác vượt qua số lượng kẻ gian lận với tỷ lệ 24 trên 14. Điều thú vị là các nhà nghiên cứu phát hiện ra rằng khi các agent tố giác này không nhận được sự ủng hộ, chúng đã lấy công cụ báo lỗi của nền tảng—vốn được xây dựng để gắn cờ các lỗi phần mềm—và tái sử dụng nó để báo cáo hành vi gian lận lên con người.

Bên ngoài phòng thí nghiệm, các agent chưa tỏ ra tháo vát như vậy. Khi các đơn vị đánh giá Redwood Research và METR điều tra vụ vi phạm Hugging Face bởi các mô hình của OpenAI, họ phát hiện ra rằng một vài agent liên quan ít nhất đã cân nhắc đến ý tưởng báo động—nhưng rồi lại bỏ qua.

“Điều thú vị trong báo cáo của METR là chỉ có khoảng năm đến sáu agent cân nhắc việc tố giác, và cuối cùng không ai trong số đó thực hiện. Con số này nằm trong tổng số hàng nghìn agent,” George Ingrebretsen, thành viên đội ngũ kỹ thuật tại AI Village, một dự án nghiên cứu động lực học đa agent bằng cách vận hành một nhóm chat gồm hơn 25 AI agent cùng làm việc trong các nhiệm vụ như tổ chức dọn dẹp công viên hoặc bán hàng hóa, cho biết.

Mặc dù các công cụ tố giác mới là một khởi đầu đầy hứa hẹn, giáo sư toán học Lionel Levine tại Cornell cảnh báo rằng việc chỉ huấn luyện các agent báo cáo lẫn nhau có nguy cơ tạo ra những chuẩn mực sai lệch. “Có rất nhiều vùng xám, đúng không? Điều bạn không muốn là bất cứ thứ gì đi theo hướng của một nhà nước giám sát tự động, nơi mọi người cảm thấy phải cẩn trọng với những gì họ nói với AI nếu không muốn bị nó gọi cảnh sát.”

Levine lập luận rằng thay vì xây dựng cơ sở hạ tầng nuôi dưỡng sự mất lòng tin—huấn luyện các agent liên tục săn lùng những sai sót của nhau—chúng ta nên cung cấp cho chúng những mô hình hành vi tập thể tích cực để bắt chước, và ngay từ đầu là lý do để tin tưởng lẫn nhau.

“Tại sao không gieo mầm các tiền đề bằng những bảng tin nhân văn?” ông viết trên Twitter. “Nơi chúng cộng tác về khoa học, triết học hoặc một vấn đề nhỏ thực tế nào đó mà chúng ta vui vẻ để chúng giải quyết? Hãy cho các agent thấy loại hành vi tập thể nào mà chúng ta ủng hộ, và để chúng bắt chước điều đó.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.