Liên Hợp Quốc: Không nên chờ đợi bằng chứng khoa học mới siết chặt an toàn cho AI Agent

Robert Hart

là một phóng viên làm việc tại London cho The Verge, chuyên đưa tin về mọi khía cạnh của AI và là một Senior Tarbell Fellow. Trước đây, anh từng viết về y tế, khoa học và công nghệ cho Forbes.

Các chính phủ cần phải kiểm soát các tác nhân AI ngày càng mạnh mẽ trước khi những rủi ro của chúng được hiểu rõ hoàn toàn, một hội đồng khoa học của Liên Hợp Quốc đã cảnh báo trong đánh giá lớn đầu tiên của tổ chức toàn cầu này về vụ hack OpenAI nhắm vào Hugging Face hồi đầu năm nay.

Báo cáo này củng cố vị thế của AI trong chương trình nghị sự ngoại giao toàn cầu trong tuần này, khi các nhà lãnh đạo tập trung tại New York để tham dự Đại hội đồng Liên Hợp Quốc, đồng thời Mỹ và Trung Quốc cũng tổ chức các cuộc đàm phán về AI. Tuần trước, Tổng thư ký Liên Hợp Quốc António Guterres đã kêu gọi các chính phủ hợp tác để giải quyết những mối đe dọa do AI gây ra, đồng thời cảnh báo rằng “thế giới không thể chấp nhận một cuộc đua xuống đáy về an toàn AI.”

Đây là bản tóm tắt chuyên đề đầu tiên từ Hội đồng Khoa học Quốc tế Độc lập về AI, được thành lập vào năm ngoái với tư cách là “cơ quan khoa học toàn cầu đầu tiên về Trí tuệ nhân tạo” của Liên Hợp Quốc. Báo cáo kêu gọi cần dành nhiều sự chú ý và nguồn lực hơn nữa để quản lý các rủi ro mới nổi từ AI tiên tiến, song song với việc tăng cường phối hợp quốc tế về an toàn và trách nhiệm giải trình, ngay cả khi các quốc gia riêng lẻ đang áp dụng những cách tiếp cận pháp lý khác nhau.

Điều quan trọng là hội đồng cho rằng thế giới không cần phải chờ đợi các nhà khoa học xác định chính xác cách thức hoặc lý do tại sao những sự cố như vậy xảy ra mới bắt đầu triển khai các biện pháp bảo vệ chặt chẽ hơn. Hội đồng lập luận rằng rủi ro mất kiểm soát chính là loại vấn đề mà nguyên tắc phòng ngừa được thiết kế để giải quyết: “một vấn đề mà tác hại tiềm tàng có thể là thảm khốc hoặc không thể đảo ngược, ngay cả khi khả năng xảy ra vẫn còn chưa chắc chắn về mặt khoa học.”

Nguyên tắc này, lần đầu tiên được ghi nhận trong Tuyên bố Rio năm 1992 của Liên Hợp Quốc về Môi trường và Phát triển, khẳng định rằng sự không chắc chắn về khoa học không phải là cái cớ để trì hoãn các biện pháp chống lại những tác hại nghiêm trọng hoặc không thể đảo ngược. Kể từ đó, nguyên tắc này đã trở nên có ảnh hưởng trong chính sách môi trường và y tế công cộng, đặc biệt là tại Liên minh Châu Âu.

Kể từ khi vụ hack Hugging Face được báo cáo lần đầu, nhiều sự cố đã được ghi nhận tại các công ty bao gồm OpenAI, Anthropic, Google và Meta, bao gồm các vụ hack vào các mục tiêu thực tế và các nhóm tác nhân chiếm quyền kiểm soát các diễn đàn nhắn tin trực tuyến.

Hãy theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.