Terence Tao cùng 25 nhà toán học đạt giải Fields cảnh báo về sự lệch lạc của AI trong toán học

Tôi tự hào khi nằm trong danh sách 25 người ký tên đầu tiên — tất cả đều là chủ nhân giải thưởng Fields — cho bản tuyên bố dưới đây, vốn được hình thành từ các cuộc thảo luận giữa chúng tôi trong tuần qua. Chúng tôi cũng đã đăng tải bản tuyên bố của mình trên trang web này và (tương tự như tuyên bố Leiden) mời gọi thêm các chữ ký khác. (Thật đáng tiếc khi chúng tôi không có đủ thời gian để thực hiện một quy trình tham vấn kỹ lưỡng hơn như với Leiden; nhưng chúng tôi quyết định rằng tình hình cấp bách đến mức cần phải đưa ra tuyên bố càng sớm càng tốt.)

Xem thêm bài báo gần đây trên tờ Economist liên quan đến tuyên bố của chúng tôi.

Trong vài tháng qua, năng lực toán học của các LLM đã cải thiện đáng kể, đến mức chúng có thể giải quyết các bài toán lớn chưa có lời giải trong nhiều lĩnh vực toán học. Tuy nhiên, việc các công ty AI thúc đẩy giải quyết các bài toán toán học như một tiêu chuẩn đánh giá (benchmark) đang gây bất lợi cho khoa học toán học và cộng đồng toán học. Mục tiêu của các công ty AI và mục tiêu của cộng đồng toán học đang lệch pha nghiêm trọng. Chúng tôi coi đây là một phần của các vấn đề căn chỉnh (alignment) rộng lớn hơn, vốn đang tác động đến các ngành nghề khoa học và sáng tạo khác, cũng như toàn xã hội.

Toán học nghiên cứu tập trung vào việc tìm hiểu các cấu trúc cơ bản của hình khối, con số và các hiện tượng tự nhiên. Qua nhiều thế hệ, ngành này đã xây dựng một kho tàng khổng lồ các ý tưởng, phương pháp, sự trừu tượng hóa và các công cụ tinh vi khác để thấu hiểu cảnh quan toán học. Ngược lại, các công nghệ và khoa học hiện đại đều dựa trên các công cụ toán học này.

Các bài toán nổi tiếng thường đóng vai trò như những cột mốc và ngọn hải đăng để đo lường sự hiểu biết ngày càng sâu sắc về cảnh quan này. Việc giải được một trong những bài toán đó là dấu hiệu chắc chắn của những hiểu biết mới và các phương pháp thú vị, sau đó sẽ được cộng đồng các nhà toán học nghiên cứu thông qua một quá trình dài và gian khổ gồm các buổi thuyết trình, thảo luận và đơn giản hóa. Kết thúc quá trình này, người ta sẽ tìm thấy một cách trình bày kết quả trong sách giáo khoa phù hợp để bất kỳ sinh viên cao học hay thậm chí sinh viên đại học nào cũng có thể học tập. Một số ý tưởng toán học còn tiếp tục hành trình của mình để trở thành những công cụ được toàn nhân loại hiểu và sử dụng sau nhiều thập kỷ hoặc nhiều thế kỷ.

Cộng đồng toán học vận hành, theo nhiều cách, như một phiên bản thu nhỏ của nhân loại. Nó bao gồm các cá nhân sử dụng nhiều phương pháp tiếp cận khác nhau, được gắn kết bởi các giá trị cốt lõi. Tài nguyên quý giá nhất của nghề chúng tôi là sinh viên và ý tưởng, và chúng tôi nuôi dưỡng những điều này bằng sự chăm sóc kỹ lưỡng. Chúng tôi cảm thấy có trách nhiệm để chúng phát triển hết tiềm năng cho đến khi chúng có thể tự tồn tại trong thế giới toán học. Đối với sinh viên, chúng tôi thường gợi ý các bài toán với mục đích cốt lõi là phát triển các kỹ năng giúp họ có vị thế tốt cho những tiến bộ trong nghiên cứu và các lĩnh vực khác. Các ý tưởng của mình, chúng tôi phổ biến qua các buổi thuyết trình, thảo luận riêng và các bài viết cẩn thận, kết nối chúng với những ý tưởng trước đó của người khác. Những quá trình này luôn mất thời gian và dựa trên sự tương tác giữa con người với con người.

Trong những tháng gần đây, thành công của AI trong việc giải quyết các bài toán toán học lớn đã xuất hiện trên các tiêu đề báo chí ngay cả bên ngoài giới toán học. Nhưng giải quyết bài toán chỉ là một công cụ và là phương tiện để đạt được mục tiêu chính là sự hiểu biết về khái niệm và sự thấu hiểu. Việc quên đi điều này trong thế giới AI có thể biến công cụ thành thứ chống lại mục tiêu chính. Thật vậy, việc sản xuất hàng loạt các tuyên bố “đúng/sai” với tốc độ ngày càng nhanh có thể phá hủy mảnh đất màu mỡ thay vì thổi luồng sinh khí vào những ý tưởng mới.

Thông thường, các lời giải này được công bố vội vàng, không có thời gian cho một bài viết chỉn chu, không có sự tách biệt các phương pháp và ý tưởng mới, cũng như không trích dẫn các công trình liên quan trước đó của người khác. Như trong tất cả các ngành nghề sáng tạo, điều này đặt ra những câu hỏi nghiêm trọng về ghi nhận tác giả và đạo văn. Hơn nữa, nếu không có các nhà toán học sẵn lòng chăm lo cho sự phát triển và tích hợp chúng vào hệ thống kiến thức toán học, các ý tưởng do AI tạo ra sẽ không bao giờ thực sự sống động và chuỗi truyền tải quan trọng giữa các nhà toán học sẽ bị mất đi.

Chúng ta đang chứng kiến một mối đe dọa chung đối với công việc trí tuệ, với sự lệch pha giữa kết quả của việc sử dụng AI và mục đích ban đầu của nó. Trong nhiều lĩnh vực và hoạt động, nhiều năm đào tạo theo truyền thống không chỉ nhằm tạo ra một câu trả lời hay sản phẩm cuối cùng, mà còn để phát triển sự hiểu biết và khả năng đặt ra các câu hỏi và ý tưởng mới. Tuy nhiên, dựa trên một khối lượng lớn các công trình của con người trước đó, các hệ thống AI đang ngày càng có khả năng tạo ra kết quả của những công việc đó một cách trực tiếp, và các mục tiêu này không còn đồng nhất. Những vấn đề mà cộng đồng toán học đang đối mặt hiện nay cũng tương tự như những vấn đề mà các ngành khoa học và sáng tạo khác đang gặp phải, và cho thấy những vấn đề mà toàn nhân loại có thể phải đối mặt: làm thế nào để đảm bảo rằng, khi AI thay đổi cách thức làm việc, chúng ta không đánh mất mục tiêu mà công việc đó hướng tới ngay từ đầu.

AI mang lại tiềm năng tăng cường và đẩy nhanh việc nghiên cứu và thấu hiểu toán học thực sự. Toán học với tư cách là một nghề sẽ cần phải thích nghi với những thay đổi này theo nhiều cách. Tuy nhiên, liệu những thay đổi này cuối cùng mang lại lợi ích cho lĩnh vực này hay gây ra tác động hủy hoại phần lớn sẽ được quyết định bởi các quyết định của con người đang kiểm soát công nghệ mới này.

Những vấn đề này phải được giải quyết khẩn cấp, trong cộng đồng toán học, bởi các công ty phát triển các công nghệ này và rộng hơn là bởi một xã hội sẽ phải đối mặt với những vấn đề tương tự trong nhiều hình thức công việc trí tuệ khác.

Artur Avila (Giải thưởng Fields 2014), Manjul Bhargava (Giải thưởng Fields 2014), Caucher Birkar (Giải thưởng Fields 2018), Pierre Deligne (Giải thưởng Fields 1978), Yu Deng (Giải thưởng Fields 2026), Simon Donaldson (Giải thưởng Fields 1986), Hugo Duminil-Copin (Giải thưởng Fields 2022), Alessio Figalli (Giải thưởng Fields 2018), Martin Hairer (Giải thưởng Fields 2014), June Huh (Giải thưởng Fields 2022), Maxim Kontsevich (Giải thưởng Fields 1998), Elon Lindenstrauss (Giải thưởng Fields 2010), Pierre-Louis Lions (Giải thưởng Fields 1994), James Maynard (Giải thưởng Fields 2022), Curt McMullen (Giải thưởng Fields 1998), Shigefumi Mori (Giải thưởng Fields 1990), Ngô Bảo Châu (Giải thưởng Fields 2010), Andrei Okounkov (Giải thưởng Fields 2006), Peter Scholze (Giải thưởng Fields 2018), Stanislav Smirnov (Giải thưởng Fields 2010), Terence Tao (Giải thưởng Fields 2006), Maryna Viazovska (Giải thưởng Fields 2022), Cédric Villani (Giải thưởng Fields 2010), Wendelin Werner (Giải thưởng Fields 2006), Efim Zelmanov (Giải thưởng Fields 1994).