25 chủ nhân giải Fields đồng loạt cảnh báo về sự lệch hướng nghiêm trọng của AI trong toán học

Theo tin từ IT ngày 12 tháng 9, vào ngày 11 tháng 9 theo giờ địa phương, 25 chủ nhân giải thưởng Fields, bao gồm Terence Tao (Đào Triết Hiên), Đặng Dục (Deng Yu), Peter Scholze và những người khác, với tư cách là những người ký tên đầu tiên, đã cùng đưa ra tuyên bố có tiêu đề "A Severe Misalignment of AI in Mathematics" (Sự lệch pha nghiêm trọng của AI trong toán học), cảnh báo về một "sự lệch pha nghiêm trọng" đang xuất hiện giữa các công ty AI và cộng đồng toán học.

Tuyên bố cho biết, trong vài tháng qua, khả năng toán học của các mô hình ngôn ngữ lớn đã được cải thiện đáng kể, có thể giải quyết nhiều vấn đề lớn chưa có lời giải trong các lĩnh vực toán học. Tuy nhiên, việc các công ty AI thúc đẩy sử dụng các bài toán toán học làm tiêu chuẩn đánh giá (benchmark) lại gây hại cho khoa học toán học và cộng đồng toán học. Mục tiêu của các công ty AI đang lệch pha nghiêm trọng với mục tiêu của cộng đồng toán học, và đây là một phần của vấn đề căn chỉnh (alignment) rộng lớn hơn, vốn đang ảnh hưởng đến các ngành nghề khoa học, sáng tạo khác và toàn xã hội.

Nghiên cứu toán học là việc tìm hiểu các cấu trúc cơ bản của hình học, con số và các hiện tượng tự nhiên. Trải qua nhiều thế hệ phát triển, toán học đã tích lũy được một lượng lớn các tư tưởng, phương pháp, khái niệm trừu tượng và các công cụ khác để thấu hiểu lĩnh vực này. Ngược lại, công nghệ và khoa học hiện đại đều dựa trên các công cụ toán học.

Cộng đồng toán học xét trên nhiều phương diện giống như một hình ảnh thu nhỏ của nhân loại. Nó bao gồm các cá nhân áp dụng nhiều phương pháp khác nhau và lấy các giá trị cốt lõi làm trọng tâm. Đối với sinh viên, các nhà toán học thường đặt ra các câu hỏi với mục đích cốt lõi là trau dồi kỹ năng, giúp họ có được lợi thế tốt trong nghiên cứu và các lĩnh vực khác. Các nhà toán học mong muốn truyền đạt thông qua các bài giảng, thảo luận riêng và các bài viết tỉ mỉ, nhằm kết nối chúng với những ý tưởng trước đó của người khác. Những quá trình này thường đòi hỏi thời gian và dựa trên sự tương tác giữa người với người.

Tuyên bố đề cập rằng, trong những tháng gần đây, thành công của AI trong việc giải quyết các bài toán toán học lớn thậm chí đã xuất hiện trên các tiêu đề báo chí. Nhưng giải quyết vấn đề chỉ là công cụ và tác nhân để đạt được mục tiêu chính là sự hiểu biết và thấu thị về khái niệm. Việc quên đi điều này trong lĩnh vực AI có thể khiến các công cụ đi chệch khỏi mục tiêu chính. Trên thực tế, việc sản xuất hàng loạt các tuyên bố "đúng-sai" ngày càng nhanh có thể phá hủy mảnh đất màu mỡ thay vì thổi hồn cho những ý tưởng mới.

Những giải pháp này thường được công bố vội vàng, không có thời gian cho việc viết lách chính thức, cũng không có thời gian để tách biệt các phương pháp và ý tưởng mới, hoặc trích dẫn các công trình liên quan của người khác. Giống như tất cả các ngành nghề sáng tạo, điều này gây ra các vấn đề nghiêm trọng về ghi danh tác giả và đạo văn. Hơn nữa, nếu không có các nhà toán học sẵn sàng chịu trách nhiệm về sự phát triển và tích hợp chúng vào hệ thống kiến thức toán học kinh điển, những ý tưởng do AI tạo ra sẽ không bao giờ được hiện thực hóa hoàn toàn, và chuỗi truyền tải nhân văn quan trọng giữa các nhà toán học cũng sẽ bị mất đi.

Tuyên bố đề cập rằng, chúng ta đang chứng kiến một mối đe dọa phổ biến đối với công việc trí tuệ, khi kết quả sử dụng AI không nhất quán với mục đích ban đầu của nó. Trong nhiều lĩnh vực và hoạt động, nhiều năm đào tạo theo truyền thống không chỉ tạo ra câu trả lời hoặc kết quả cuối cùng, mà còn nuôi dưỡng khả năng thấu hiểu cũng như khả năng đặt ra các câu hỏi và ý tưởng mới. Tuy nhiên, dựa trên lượng lớn các thành tựu của con người trước đây, các hệ thống AI ngày càng có khả năng tạo ra trực tiếp những kết quả này, khiến các mục tiêu không còn nhất quán. Vấn đề mà cộng đồng toán học đang đối mặt cũng tương tự như các ngành khoa học và sáng tạo khác, đồng thời phản ánh vấn đề mà toàn nhân loại có thể phải đối mặt: làm thế nào để đảm bảo rằng khi AI thay đổi cách thức làm việc, chúng ta không quên đi mục đích ban đầu của công việc đó.

AI có tiềm năng nâng cao và đẩy nhanh quá trình học tập và thấu hiểu toán học thực thụ. Là một nghề nghiệp, toán học cần thích ứng với những thay đổi này theo nhiều cách. Tuy nhiên, việc những thay đổi này cuối cùng có lợi cho lĩnh vực này hay gây ra tác động phá hoại, phần lớn phụ thuộc vào quyết định của con người – những người đang nắm quyền kiểm soát công nghệ mới này. Tuyên bố kêu gọi cần phải khẩn trương giải quyết vấn đề này trong cộng đồng toán học, các công ty phát triển công nghệ và trong xã hội rộng lớn hơn, khi mà nhiều hình thức công việc trí tuệ khác cũng đang đối mặt với những thách thức tương tự.

Theo báo South China Morning Post, chủ nhân giải thưởng Fields Đặng Dục gần đây đã đăng tải trên trang cá nhân rằng, cộng đồng toán học mà ông tiếp xúc gần đây đang bao trùm một bầu không khí nôn nóng và bất an.

Đặng Dục bày tỏ rằng ông thực sự tò mò về giới hạn của AI nằm ở đâu. Nếu AGI có thể giải quyết các vấn đề toán học trên diện rộng, thì việc được chứng kiến "phép màu" trong đời mình cũng không uổng phí, sau đó thì chỉ việc về nhà viết tiểu thuyết bách hợp (yuri) là xong.

Đặng Dục phản hồi với South China Morning Post: "Hiện tại tôi không viết tiểu thuyết bách hợp. Câu nói đó hoàn toàn là đùa thôi." "Tôi không nghĩ AI có thể phát triển đến mức giải quyết được tất cả các bài toán toán học, ít nhất là không phải những vấn đề mà tôi đã đề cập trong bài đăng."