Lý Phi Phi: Không nên để các công ty AI tự đánh giá độ an toàn của hệ thống

Theo Bloomberg đưa tin vào ngày 23 tháng 9 theo giờ Bắc Kinh, nhà tiên phong về AI Lý Phi Phi (Fei-Fei Li) đã kêu gọi tăng cường giám sát AI bởi các tổ chức độc lập và khu vực công. Bà cho rằng, đối với các hệ thống AI ngày càng mạnh mẽ, việc đánh giá an toàn không nên hoàn toàn phó mặc cho các công ty phát triển những hệ thống đó.

Với tư cách là giáo sư tại Đại học Stanford và đồng sáng lập World Labs, bà Lý Phi Phi cho biết hôm thứ Ba rằng, mặc dù các nhà nghiên cứu nội bộ của các công ty AI có thể đánh giá năng lực và độ an toàn của từng mô hình riêng lẻ, nhưng điều này không thể thay thế cho các tiêu chuẩn rộng lớn hơn do chính phủ, ngành công nghiệp và các tổ chức học thuật cùng thiết lập.

"Tôi vẫn cho rằng việc thiết lập các tiêu chuẩn đánh giá (benchmark) bởi các tổ chức độc lập cũng như khu vực công như giới học thuật là vô cùng quan trọng. Đồng thời, ngành công nghiệp và chính phủ cũng nên cùng nhau gánh vác trách nhiệm," bà Lý Phi Phi chia sẻ trong một cuộc phỏng vấn với Bloomberg TV.

Khi năng lực của các hệ thống AI không ngừng tăng lên, những lo ngại về rủi ro tiềm ẩn cũng ngày càng gia tăng. Một số nhà lãnh đạo tại Thung lũng Silicon cảnh báo rằng tốc độ phát triển của công nghệ này quá nhanh, có thể cuối cùng sẽ vượt khỏi tầm kiểm soát của con người. Trong những tuần gần đây, CEO của Anthropic là Dario Amodei và CEO của OpenAI là Sam Altman đều đã kêu gọi làm chậm tốc độ phát triển của các mô hình tiên phong (frontier models). Cả hai sẽ thảo luận về vấn đề an toàn AI tại Hội đồng Bảo an Liên Hợp Quốc vào thứ Tư.

Bà Lý Phi Phi cho biết, rủi ro hiện hữu mà AI có thể mang lại cuối cùng phụ thuộc vào cách con người lựa chọn phát triển, quản trị và sử dụng công nghệ này. Bà nói rằng nguyên tắc này cũng áp dụng cho các công nghệ ngoài AI; từ điện năng, động cơ hơi nước cho đến các phương tiện giao thông hiện đại, xã hội loài người cũng cần tìm kiếm sự cân bằng giữa lợi ích mà công nghệ mang lại và sự an toàn của con người.

Bà chỉ ra rằng con người "nắm giữ sức mạnh của công nghệ". "Chúng ta phải nắm quyền kiểm soát. AI không phải là vấn đề của riêng AI, mà là vấn đề của con người. Nó liên quan đến phẩm giá và quyền tự chủ của chúng ta, cả tập thể lẫn cá nhân, và cũng liên quan đến trách nhiệm của chúng ta," bà Lý Phi Phi khẳng định.

Những phát biểu của bà Lý Phi Phi đã bổ sung thêm một tiếng nói mới vào cuộc tranh luận ngày càng gay gắt giữa các nhà hoạch định chính sách và các nhà lãnh đạo ngành công nghiệp AI. Trọng tâm của cuộc tranh luận này là: cần nghiêm túc đến mức nào đối với những cảnh báo về các rủi ro cực đoan nhất của công nghệ này. Trước đó vào thứ Ba, khi phát biểu tại Đại hội đồng Liên Hợp Quốc ở New York, Tổng thống Mỹ Donald Trump đã bác bỏ những lo ngại về mối đe dọa hiện hữu của AI, gọi đó là "một trò lừa bịp" và nhấn mạnh sự cần thiết phải tiếp tục phát triển công nghệ này hết tốc lực.

Bà Lý Phi Phi cho biết, các cuộc thảo luận về hành vi của hệ thống AI đã vượt ra ngoài các mô hình tiên phong vốn đang thúc đẩy cơn sốt AI hiện nay. Công ty World Labs do bà sáng lập đang phát triển cái gọi là "mô hình thế giới" (world models), có khả năng tạo ra và tái tạo các môi trường 3D. Bà cho biết, công nghệ này có thể được sử dụng để huấn luyện và đánh giá robot, đồng thời hỗ trợ các ứng dụng trong thiết kế, y tế và các ngành công nghiệp khác.

Bà cho rằng, khi các hệ thống này tiến tới các ứng dụng trong thế giới thực, ngành công nghiệp đang phải đối mặt với cùng một vấn đề cốt lõi: làm thế nào để đánh giá các hệ thống AI ngày càng mạnh mẽ và xác định xem chúng có đang vận hành đúng như dự kiến hay không.