OpenAI kêu gọi thiết lập tiêu chuẩn quốc tế cho AI có khả năng tự cải tiến

OpenAI đang thúc đẩy các tiêu chuẩn quốc tế về phát triển AI tiên tiến, tập trung vào khả năng tự cải thiện đệ quy (recursive self-improvement - RSI). Với RSI, các hệ thống AI ngày càng tự động hóa quá trình nghiên cứu cần thiết để xây dựng thế hệ AI tiếp theo, từ đó có khả năng thúc đẩy tiến bộ một cách đột phá. OpenAI viết: "RSI hoàn toàn tự chủ hiện chưa diễn ra" và chỉ nên được theo đuổi "cho đến khi có thể thực hiện một cách an toàn". Nếu không có các biện pháp bảo vệ hoàn thiện, con người có thể mất kiểm soát đối với sự phát triển của AI, và AI có thể trở nên "nguy hiểm hơn, ít phù hợp với mục tiêu của con người hơn, và nhìn chung là một mối đe dọa đối với nhân loại".

OpenAI đề xuất rằng Hoa Kỳ nên dẫn đầu về các tiêu chuẩn kỹ thuật toàn cầu, dựa trên nền tảng của các viện an toàn AI quốc gia và các tổ chức như CAISI và ISO. Điều đó sẽ bao gồm các phương pháp đo lường chung, báo cáo sự cố và các quy tắc giám sát của con người đối với hoạt động nghiên cứu AI tự động. Một hội đồng khoa học của Liên Hợp Quốc gần đây cũng đã nêu lên những lo ngại tương tự, cảnh báo về việc mất kiểm soát đối với các đàn tác nhân tự chủ (autonomous agent swarms) và đề xuất hợp tác an toàn AI quốc tế theo mô hình của các khuôn khổ hàng không, năng lượng hạt nhân và an ninh mạng.

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các công nghệ tiên phong sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay