Liên Hợp Quốc kêu gọi các quốc gia kiểm soát sớm AI trước khi rủi ro trở nên không thể đảo ngược

Theo tin từ IT ngày 21 tháng 9, một nhóm chuyên gia khoa học của Liên Hợp Quốc đã đưa ra cảnh báo: các chính phủ cần kiểm soát các AI agent ngày càng mạnh mẽ trước khi làm rõ hoàn toàn các rủi ro. Báo cáo này cũng là tài liệu đánh giá quan trọng đầu tiên mà tổ chức quốc tế này đưa ra liên quan đến vụ việc OpenAI xâm nhập Hugging Face hồi đầu năm nay.

IT lưu ý, tuần này các nhà lãnh đạo thế giới đã tề tựu tại New York để tham dự Đại hội đồng Liên Hợp Quốc, đồng thời phía Mỹ và Trung Quốc cũng tiến hành các cuộc đàm phán liên quan đến trí tuệ nhân tạo; việc công bố báo cáo này càng đẩy vấn đề AI lên chương trình nghị sự ngoại giao toàn cầu. Tuần trước, Tổng thư ký Liên Hợp Quốc António Guterres đã kêu gọi các chính phủ hợp tác để cùng ứng phó với những mối đe dọa do AI gây ra. Ông cũng đồng thời cảnh báo: "Thế giới không thể gánh chịu một cuộc đua xuống đáy về tiêu chuẩn an toàn AI."

Tài liệu này là bản tóm tắt chuyên đề đầu tiên do Nhóm chuyên gia khoa học quốc tế độc lập về trí tuệ nhân tạo của Liên Hợp Quốc công bố. Nhóm chuyên gia này được thành lập vào năm ngoái, là "cơ quan khoa học toàn cầu đầu tiên trong lĩnh vực trí tuệ nhân tạo" trực thuộc Liên Hợp Quốc. Bản tóm tắt đề xuất rằng: ngay cả khi các quốc gia chọn những lộ trình lập pháp và quản lý khác nhau, thế giới vẫn cần đầu tư nhiều sự quan tâm và nguồn lực hơn để kiểm soát các loại rủi ro đang nổi lên từ trí tuệ nhân tạo tiên tiến; đồng thời tăng cường hợp tác ở cấp độ quốc tế về an toàn và trách nhiệm giải trình.

Một điểm đặc biệt quan trọng trong báo cáo là nhóm chuyên gia cho rằng thế giới không nhất thiết phải đợi đến khi các nhà nghiên cứu làm rõ hoàn toàn cơ chế và nguyên nhân xảy ra các sự cố như vậy mới thực hiện các biện pháp phòng vệ mạnh mẽ hơn. Nhóm chuyên gia cho rằng, rủi ro mất kiểm soát chính là vấn đề mà nguyên tắc phòng ngừa cần giải quyết: "Tức là những tổn hại tiềm tàng có thể mang tính thảm họa và không thể đảo ngược, nhưng xác suất xảy ra rủi ro đó vẫn chưa thể xác định được ở cấp độ khoa học."

Nguyên tắc phòng ngừa lần đầu tiên được ghi trong Tuyên bố Rio về Môi trường và Phát triển của Liên Hợp Quốc năm 1992. Nguyên tắc này nêu rõ: không được lấy lý do khoa học vẫn còn tồn tại sự không chắc chắn để trì hoãn việc áp dụng các biện pháp kiểm soát đối với những rủi ro có khả năng gây ra tổn hại nghiêm trọng hoặc không thể đảo ngược. Kể từ đó, nguyên tắc này đã ảnh hưởng sâu sắc đến việc hoạch định chính sách trong lĩnh vực môi trường và y tế công cộng, đặc biệt được áp dụng rộng rãi tại khu vực Liên minh châu Âu (EU).

Kể từ khi sự kiện Hugging Face bị xâm nhập được đưa tin lần đầu, đã có nhiều sự cố tương tự được ghi nhận, liên quan đến nhiều doanh nghiệp như OpenAI, Anthropic, Google và Meta; trong đó bao gồm cả các hành vi tấn công nhắm vào các mục tiêu trong thế giới thực, cũng như xuất hiện tình trạng các cụm đa tác tử (multi-agent) chiếm quyền kiểm soát các bảng tin trực tuyến.