Chủ nhân giải Fields Jacob Tsimerman gia nhập OpenAI để nghiên cứu an toàn AI

Jacob Tsimerman, người vừa được trao Huy chương Fields, sẽ gia nhập OpenAI để làm việc trong lĩnh vực an toàn AI. Nhà lý thuyết số đến từ Đại học Toronto cho biết AI là một công nghệ có khả năng thay đổi cực kỳ lớn và xã hội cần nỗ lực nhiều hơn nữa cho vấn đề an toàn. Ông lập luận rằng các nhà toán học có thể đóng góp rất nhiều, vì AI hiện vẫn chủ yếu vận hành dựa trên cơ sở thực nghiệm với rất ít sự đảm bảo về cách thức hoạt động thực sự của các hệ thống này.

Năm ngoái, Tsimerman cũng đã xuất bản một bài báo về "các sự kiện diệt vong" (omnicide events), những kịch bản mà AI có thể góp phần dẫn đến sự tuyệt chủng của nhân loại. Quan điểm này hiện vẫn đang gây tranh cãi trong giới chuyên gia. Tsimerman cho rằng hoảng loạn không phải là phản ứng đúng đắn, nhưng chúng ta cần đánh giá rủi ro một cách trung thực. Ông tin chắc rằng AI sẽ sớm vượt qua con người trong nghiên cứu toán học.

Cựu CEO của DeepMind, Demis Hassabis, cũng đã đưa ra nhận định về những tiến bộ mới nhất của AI trong toán học. Ông coi đó là sự tiến bộ nhưng chưa phải là một bước đột phá mang tính nền tảng như "Nước đi 37" (Move 37) huyền thoại của AlphaGo từ DeepMind. Để đạt được điều đó, AI cần phải giải quyết được các bài toán như "Các bài toán Thiên niên kỷ" (Millennium Prize Problems). Mô hình mới của OpenAI là Astra cũng đã thất bại với những bài toán này, nhưng có lẽ chỉ là vấn đề thời gian. "Tôi không thấy lý do gì mà nó không thể làm được," ông nói.

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay