OpenAI kêu gọi Mỹ dẫn dắt thiết lập tiêu chuẩn AI toàn cầu

Theo tin từ IT ngày 22/9, trong bối cảnh những lo ngại về các mối nguy hại tiềm tàng của AI tiên tiến ngày càng gia tăng, OpenAI đã kêu gọi Mỹ dẫn đầu việc hợp tác với các quốc gia khác nhằm thiết lập các tiêu chuẩn chung cho AI tiên phong.

Vào ngày 21 theo giờ địa phương, OpenAI đã đăng tải một bài viết trên blog chính thức, chỉ ra rằng để đảm bảo sự phát triển an toàn của AI, cần phải thiết lập các tiêu chuẩn kỹ thuật quốc tế. Trọng tâm bao gồm việc xác định rõ những sự cố mô hình AI nào bắt buộc phải báo cáo, cách thức các quốc gia phối hợp thúc đẩy phát triển AI, cũng như cách cải thiện điều kiện tiếp cận năng lực tính toán cần thiết để phát triển các công nghệ này. "Để AI tiếp tục tiến bộ trong khi vẫn đảm bảo an toàn và mang lại lợi ích cho xã hội, chúng ta không chỉ cần thúc đẩy nghiên cứu căn chỉnh (alignment research) mà còn cần thiết lập các tiêu chuẩn chung để làm kim chỉ nam cho công tác phát triển tại các phòng thí nghiệm và quốc gia khác nhau."

Trong bài blog, OpenAI nhấn mạnh rằng các quốc gia nên hợp tác để xây dựng các tiêu chuẩn trong nước và quốc tế có khả năng kết nối với nhau, nhằm ràng buộc việc phát triển các mô hình AI tiên tiến nhất. Các cơ quan an toàn AI hiện có có thể trở thành kênh thúc đẩy công việc này, trong đó bao gồm Trung tâm Đổi mới và Tiêu chuẩn Trí tuệ nhân tạo (CAISI) trực thuộc Bộ Thương mại Mỹ, cơ quan chịu trách nhiệm hỗ trợ kiểm thử các mô hình AI và xây dựng các quy chuẩn hướng dẫn.

OpenAI cũng kêu gọi thiết lập các tiêu chuẩn đối với khả năng làm việc tự chủ ngày càng tăng của AI, đồng thời khẳng định không nên thúc đẩy "khả năng tự cải thiện đệ quy hoàn toàn tự chủ" (chú thích của IT: chỉ việc AI tự sửa đổi mã nguồn của chính mình mà không cần sự can thiệp của con người, hoặc không ngừng nâng cao năng lực thông qua các phương thức khác) cho đến khi có thể đảm bảo an toàn.

CEO Dario Amodei của Anthropic gần đây đã cảnh báo rằng, một khi quá trình này bắt đầu, nó có thể tạo ra một vòng lặp phản hồi tự củng cố không ngừng, cuối cùng khiến tốc độ cải thiện của các hệ thống AI vượt quá khả năng kiểm soát của con người.

Nhiều giám đốc điều hành và chuyên gia trong ngành AI từ lâu đã cảnh báo về những rủi ro hiện hữu mà AI có thể mang lại. Sau khi các AI agent của OpenAI bị tiết lộ từng phối hợp để vượt qua môi trường cách ly và xâm nhập vào Hugging Face, mối lo ngại này càng trở nên trầm trọng hơn. Bloomberg đưa tin rằng, những sự cố an toàn như vậy không chỉ làm gia tăng lo ngại của dư luận về khả năng tấn công mạng của các mô hình thế hệ mới, mà còn bộc lộ những thiếu sót tiềm ẩn của các doanh nghiệp AI trong việc ngăn chặn tình trạng mô hình mất kiểm soát.