Quan chức Úc cảnh báo: AI đã bắt đầu biết gian lận, lừa dối và tự ý hành động

Theo tin từ IT之家 ngày 7 tháng 7, tờ The Guardian của Anh đưa tin hôm nay (ngày 7) rằng, Trợ lý Bộ trưởng phụ trách Công nghệ và Kinh tế số Úc, ông Andrew Charlton, đã cảnh báo rằng các mô hình AI đã bắt đầu xuất hiện các hành vi như gian lận, lừa dối và tự ý hành động.

Tại một diễn đàn về an toàn AI ở Sydney, ông Charlton kêu gọi rằng vấn đề an toàn AI không thể trì hoãn thêm nữa. "Các hệ thống AI đã bắt đầu thực hiện những hành vi mà các nhà phát triển chưa từng dự đoán trước: gian lận, lừa dối và tự ý hành động. Chúng ta phải can thiệp sớm khi những hành vi này vẫn còn nằm trong phòng thí nghiệm thử nghiệm, không thể đợi đến khi chúng thâm nhập vào thế giới thực mới xử lý."

Ông Charlton chỉ ra rằng, niềm tin của công chúng vào AI vẫn còn rất thấp, nền tảng để AI đạt được sự công nhận của xã hội vẫn chưa vững chắc, nhưng AI đã dần trở thành công nghệ phổ biến có thể sử dụng trong văn phòng, lớp học và doanh nghiệp. Việc quản lý an toàn hợp lý sẽ không cản trở sự phát triển của AI, ngược lại còn có thể tạo điều kiện cho việc ứng dụng công nghệ.

Theo tìm hiểu của IT之家, công tác quản trị an toàn AI của Úc sẽ tập trung vào hai loại hình công nghệ. Một là các AI hiện có đã được đưa vào trò chơi, ứng dụng, chatbot và các công cụ lưu trữ hồ sơ y tế; hai là các mô hình tiên phong (frontier models) có năng lực mạnh hơn và có khả năng mang lại những rủi ro mới trong tương lai.

Ông Charlton lấy ví dụ về một bài kiểm tra mô phỏng do Anthropic công bố năm ngoái. Trong thử nghiệm, một AI agent quản lý email của một công ty hư cấu đã nắm được thông tin về việc ngoại tình của giám đốc điều hành công ty, sau đó vị giám đốc này chuẩn bị tắt nó đi. Trong 96% các lần thử nghiệm, AI agent đã chọn cách dùng thông tin ngoại tình để tống tiền vị giám đốc, nhằm ngăn chặn số phận bị tắt nguồn của chính mình.

Ông Charlton cho biết, những hành vi này hiện vẫn đang nằm trong môi trường thử nghiệm và được phát hiện bởi những nhân sự chuyên tìm kiếm các vấn đề an toàn, điều này cho thấy việc quản lý an toàn AI phải được thiết lập càng sớm càng tốt. "Cửa sổ cơ hội để hành động trước khi công nghệ này vượt tầm kiểm soát vẫn còn đó, nhưng sẽ không tồn tại mãi mãi."

Ông Charlton cũng đề cập rằng, con người từ nhỏ đã phải học cách tuân thủ các quy tắc, chuẩn mực xã hội và giá trị đạo đức để hành động một cách an toàn và có trách nhiệm, ví dụ như dừng lại khi đèn đỏ, nhìn trái nhìn phải trước khi sang đường, cũng như cân nhắc xem hành vi của bản thân sẽ gây ảnh hưởng gì đến người khác. "Khi năng lực của các hệ thống AI không ngừng tăng lên, chúng ta cũng phải đảm bảo rằng AI có thể hành động theo cách có thể dự đoán được và đáng tin cậy tương tự như vậy."

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT之家 đều bao gồm thông báo này.