Terence Tao cảnh báo: AI có thể gây ra cuộc khủng hoảng toán học lớn nhất kể từ thời Gödel

Tao so sánh điều này với cuộc khủng hoảng nền tảng đã làm chấn động toán học trong giai đoạn 1900 đến 1930, khi nghịch lý Russell và các định lý bất toàn của Gödel buộc các nhà toán học phải làm rõ những giả định mà trước đó họ luôn để ở dạng ngầm định. Cuộc khủng hoảng đó đã tạo ra một khuôn khổ chặt chẽ tồn tại suốt một thế kỷ qua.

Ngày nay, Tao lập luận rằng bài kiểm tra áp lực đã thay đổi. Nó không còn xoay quanh chân lý toán học mà là về "khuôn khổ phần lớn là ngầm định của các giá trị và thực tiễn toán học": điều gì được coi là một đóng góp, điều gì được khen thưởng, hiểu một vấn đề nghĩa là gì, và liệu có thể nói rằng một cỗ máy đã thực hiện công việc đó hay không.

Giả thuyết làm việc của ông là: "Các công cụ AI sẽ sớm có khả năng thực hiện một phần đáng kể các tác vụ toán học ở cấp độ nghiên cứu, với mức độ thành công, chất lượng, sự giám sát và chi phí hợp lý."

Để làm bằng chứng, ông chỉ ra dự án First-Proof Project. Trong vòng thứ hai, mười bài toán nghiên cứu chưa từng được công bố đã được thử nghiệm trên bốn hệ thống AI trong các điều kiện được kiểm soát. Bảy trong số mười bài toán đã nhận được ít nhất một điểm đạt từ ít nhất một hệ thống, nghĩa là lời giải được đánh giá là về cơ bản hoàn hảo hoặc chỉ cần chỉnh sửa nhỏ, với chi phí từ vài chục đến vài trăm đô la cho mỗi bài toán.

Khi các thước đo trở thành mục tiêu

Tao viết rằng nhiều mục tiêu của toán học luôn gắn kết chặt chẽ với nhau, trong đó việc giải quyết vấn đề, xây dựng lý thuyết, thúc đẩy cộng đồng và đào tạo thế hệ kế cận đều bổ trợ cho nhau. AI đang đe dọa chia tách chúng.

Ông trích dẫn định luật Goodhart: "Khi một thước đo trở thành mục tiêu, nó không còn là một thước đo tốt nữa." AI tạo sinh đặc biệt dễ mắc phải điều này vì nó theo đuổi vẻ ngoài của một kết quả tốt thay vì bản chất thực sự.

Các động lực tài chính của ngành công nghiệp AI càng làm vấn đề tồi tệ hơn khi khen thưởng chính xác những loại thành tựu dễ trích dẫn, dễ đo lường bằng benchmark mà các nhà toán học từ lâu đã sử dụng như những đại diện thay thế cho các mục tiêu sâu sắc hơn.

Quá nhiều chứng minh, không đủ sự thấu hiểu

Tao cảnh báo rằng nếu giả thuyết làm việc này đúng, lĩnh vực toán học có thể chuyển từ tình trạng khan hiếm chứng minh sang dư thừa chứng minh, với các chứng minh do AI tạo ra tích tụ nhanh hơn mức bất kỳ ai có thể kiểm tra, đọc hoặc tiếp thu. Cơ sở dữ liệu bài toán Erdős hiện đã chứa hàng chục bài nộp do AI tạo ra mà chưa có chuyên gia con người nào tình nguyện xác minh.

Các chứng minh được AI trau chuốt lại có một vấn đề khác. Tao quan sát thấy rằng trong các chứng minh do con người viết, những phần khó thường giữ lại sự "ma sát" tự nhiên: một bổ đề cẩn thận, một sự thay đổi ký hiệu, và một đoạn văn rõ ràng đã được viết lại nhiều lần. Một chứng minh do AI trau chuốt quá mức sẽ loại bỏ cả những phần rườm rà lẫn những tín hiệu hữu ích đó, tạo ra văn bản "dễ đọc nhưng khó học hỏi". Như cách Tao diễn đạt, những "lỗi sai" trong cách trình bày của con người "có thể thực sự hữu ích cho người đọc".

Một chứng minh không ai giải thích được là một chứng minh chưa hoàn thiện

Để có hướng dẫn cụ thể, Tao chỉ ra Tuyên bố Leiden về Trí tuệ nhân tạo và Toán học, được công bố vào tháng 6 năm 2026 và được Liên đoàn Toán học Quốc tế ủng hộ.

Quy tắc ngón tay cái của riêng ông là: "Nếu các tác giả không thể chứng minh một cách thuyết phục rằng họ có khả năng đưa ra một bài thuyết trình rõ ràng, ở cấp độ chuyên gia về kết quả của mình, một bài thuyết trình đúng đắn và được ghi nhận nguồn gốc phù hợp, thì kết quả đó không nên được công bố." Một chứng minh mà không con người nào có thể giải thích thỏa đáng nên được xem là chưa hoàn thiện, ngay cả khi nó đã được xác minh chính thức.

Tao lập luận rằng việc đào tạo các nhà toán học trẻ cần sự chăm sóc đặc biệt, bởi vì các nhà toán học cần bảo vệ "khía cạnh không thể thay thế của con người" trong công việc của họ và giữ cho việc sử dụng công cụ AI ở mức hạn chế chặt chẽ. Mục tiêu đào tạo một nhà toán học không đạt được bằng cách tạo ra các bài tập về nhà đúng. Bản thân Tao tiết lộ rằng ông sử dụng AI để tìm kiếm tài liệu, tạo sơ đồ, hoàn thiện văn bản và chuyển đổi các slide thuyết trình của mình sang định dạng bài báo.

Gần đây, các nhà toán học nổi tiếng Timothy Gowers và Peter Sarnak đã ghi nhận các mô hình ngôn ngữ lớn có những khả năng toán học thực sự nhưng cũng thấy được những giới hạn khi nói đến các ý tưởng thực sự mới mẻ, một phát hiện cũng xuất hiện trong các nghiên cứu khác. Bài luận của Tao đi xa hơn cuộc tranh luận đó vì ông ít quan tâm đến việc AI có thể hay không thể làm gì, mà quan tâm nhiều hơn đến việc bản thân toán học thực sự mong muốn điều gì.