Huy chương Fields Jacob Tsimerman thành lập viện MAISI: Dùng toán học để chứng minh độ an toàn của AI

Nhà toán học người Canada Jacob Tsimerman, người vừa nhận huy chương Fields, đã công bố thành lập Viện An toàn AI Toán học (Mathematical A.I. Safety Institute - MAISI). Theo tờ New York Times, viện nghiên cứu độc lập tại khu vực Vịnh San Francisco này dự kiến sẽ bắt đầu hoạt động vào tháng 1 năm 2027 với từ mười đến ba mươi nhà toán học tập trung giải quyết các vấn đề về an toàn AI. Tsimerman, người cũng sẽ tham gia đội ngũ an toàn của OpenAI, cho biết lĩnh vực này cần "một tiêu chuẩn an toàn cao hơn rất nhiều so với những gì chúng ta đang có hiện nay."

Với một lược đồ mã hóa, bạn có thể chứng minh nó không thể bị phá vỡ mà không cần phải thử mọi cuộc tấn công có thể xảy ra. AI không có lối tắt như vậy. Tính an toàn chỉ thể hiện trong thực tế, và theo MAISI, thậm chí còn chưa có một định nghĩa rõ ràng về việc "an toàn" nghĩa là gì, ngay cả trên lý thuyết.

Đó chính là loại bằng chứng mà MAISI muốn hiện thực hóa. Mục tiêu là chứng minh rằng một hệ thống hành xử có trách nhiệm và tạo ra kết quả chính xác, rằng nhiều tác nhân AI làm việc cùng nhau sẽ không gây ra các kết quả không mong muốn, và rằng các hệ thống có thể chống lại những lỗ hổng mà chưa ai phát hiện ra. Một công cụ có thể được sử dụng là bằng chứng không tri thức (zero-knowledge proofs), cho phép một hệ thống chứng minh rằng nó không gian lận mà không cần tiết lộ các bí mật thương mại của các phòng thí nghiệm AI.

Tin tức AI không cường điệu – Được chọn lọc bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay