Timothy Gowers giải thích lý do không ký vào thư ngỏ của các chủ nhân giải Fields về AI

[Bài viết này đã được đăng chéo trên blog của Terence Tao.]

Khi tôi khoảng 11 tuổi, tôi lần đầu tiên nghe nói về Định lý lớn Fermat (Fermat’s Last Theorem). Tôi lập tức bị cuốn hút bởi đề bài cũng như câu chuyện đi kèm, và đã thực hiện một nỗ lực khá nghiêm túc để chứng minh nó. Và mặc dù, không có gì ngạc nhiên khi tôi thất bại, tôi đã học được rất nhiều từ nỗ lực đó. Trong sự thiếu hiểu biết đầy hạnh phúc về việc trường hợp này đã được Euler chứng minh hơn 200 năm trước, tôi quyết định rằng đó sẽ là một điểm khởi đầu tốt: một khi đã giải quyết xong việc đó, tôi lạc quan rằng mình sẽ sẵn sàng để giải quyết trường hợp tổng quát.

Vì vẫn chưa thực sự biết bắt đầu từ đâu, tôi quyết định đơn giản hóa vấn đề hơn nữa và tập trung vào các hiệu số liên tiếp của các lập phương, với mục đích chứng minh rằng một hiệu số như vậy không thể tự nó là một lập phương. Vào thời điểm đó, tôi không biết cách diễn đạt những gì mình đang làm bằng ngôn ngữ đại số, vì vậy tôi không cố gắng chứng minh một cách rõ ràng rằng phương trình Diophantine không có nghiệm. Thay vào đó, tôi chỉ tính toán một vài hiệu số liên tiếp và nhìn chằm chằm vào chúng, cố gắng tìm hiểu lý do tại sao không có số nào trong đó là một lập phương hoàn hảo. (Tôi cần làm rõ rằng câu chuyện này là sự tái dựng lại những gì tôi nghĩ có lẽ đã xảy ra dựa trên vài dấu vết ký ức còn sót lại sau nửa thế kỷ, thay vì một bản tường thuật hoàn toàn đáng tin cậy.) Tại một thời điểm nào đó, tôi có ý tưởng lấy dãy hiệu số của dãy hiệu số, và phát hiện ra rằng nó tạo thành một cấp số cộng. Điều đó giống như một sự tiến bộ, vì vậy tôi đã nghiên cứu các dãy hiệu số thêm một chút và phát hiện ra, hoàn toàn bằng thực nghiệm, quy tắc rằng nếu bạn bắt đầu với các lũy thừa bậc n và tiếp tục lấy các hiệu số liên tiếp, thì cuối cùng bạn sẽ nhận được dãy hằng số n!.

Bằng cách nào đó, tôi chưa bao giờ biến quan sát này thành một chứng minh cho Định lý lớn Fermat, và sau đó giấc mơ giải được nó đã bị thay thế bởi những giấc mơ toán học khác. Tuy nhiên, khi tôi đạt đến giai đoạn trong quá trình giáo dục toán học của mình, nơi tôi được dạy về việc lấy các dãy hiệu số và về những gì xảy ra với các đa thức, tôi đã hiểu những chủ đề đó tốt hơn nhiều so với việc tôi không tự mình khám phá ra các dãy hiệu số và dành những giờ phút vui vẻ để mày mò với chúng. Tôi đề cập đến câu chuyện này chỉ như một minh chứng cho hiện tượng đã được nhấn mạnh mạnh mẽ trong bức thư có chữ ký của 25 người đạt huy chương Fields, rằng người ta học được rất nhiều từ việc suy nghĩ về một vấn đề, bất kể người đó có giải được nó hay không.

Tuy nhiên, cuối cùng, tôi cảm thấy mình không thể ký vào bức thư đó, mặc dù đồng ý với phần lớn những gì nó nói. Thay vào đó, có vẻ tốt hơn là làm những gì tôi đã làm với Tuyên bố Leiden và trình bày quan điểm của riêng mình trong một bài đăng trên blog. Nhưng cần hiểu rằng bằng cách làm như vậy, tôi không tự đặt mình vào một phe đối lập nào cả: thực tế, một trong những lo lắng của tôi vào lúc này là cộng đồng toán học có thể trở nên chia rẽ gay gắt, điều mà tôi rất muốn tránh. Ngoài ra, tôi đồng ý với điểm cơ bản rằng chúng ta đang đối mặt với một cuộc khủng hoảng: tôi chỉ muốn đưa ra một phân tích hơi khác về cuộc khủng hoảng đó là gì. Tôi không tuyên bố sự độc đáo hoàn toàn cho phân tích này, vì tôi biết rằng một vài nhà toán học khác đã đưa ra những suy nghĩ tương tự như tôi, mặc dù (dù có giá trị hay không) tôi phần lớn đã đi đến những kết luận này một cách độc lập.

Về chủ đề độc lập, có lẽ sẽ hữu ích nếu tôi làm rõ rằng mặc dù tôi có liên hệ trong nhóm toán học tại OpenAI, và cũng đã được cấp quyền truy cập sớm vào một số mô hình của họ (thường chỉ vài ngày trước khi chúng được phát hành), và đã được cấp quyền truy cập miễn phí vào các mô hình Pro của họ sau khi phát hành, tôi chưa bao giờ được OpenAI trả tiền. Tôi đề cập đến điều này với hy vọng, có lẽ là ngây thơ, rằng những gì tôi viết sẽ không bị bác bỏ vì những lý do công kích cá nhân (ad hominem). Một lý do tiềm năng khác khiến tôi bị coi là “ủng hộ AI” là, như tôi đã tuyên bố công khai nhiều lần, tôi có một nhóm ở Cambridge chuyên về chứng minh định lý tự động. Tuy nhiên, đó thực sự lại là lý do để phản đối AI, vì nhóm của chúng tôi đã cố gắng tấn công vấn đề làm cho máy tính chứng minh các định lý thú vị bằng cách hiểu rõ nhất có thể cách con người chứng minh các định lý thú vị, vì vậy bây giờ khi các LLM rõ ràng có thể làm điều đó mà không cần sự trợ giúp của những hiểu biết như chúng tôi đã có, một trong những động lực chính cho công việc của chúng tôi đã biến mất. Nói cách khác, chúng tôi đã phải nuốt "bài học cay đắng" (điều mà tất nhiên chúng tôi luôn biết là một khả năng rõ ràng, ngay cả khi tốc độ xảy ra khiến chúng tôi ngạc nhiên). Tôi thực sự nghĩ rằng vẫn là một bài tập trí tuệ rất thú vị và có giá trị khi cố gắng đạt được sự hiểu biết này, ngay cả khi chúng ta có thể sử dụng LLM như những hộp đen, nhưng đó là chủ đề cho một bài đăng blog khác.

Vậy tại sao tôi không ký vào bức thư? Hãy để tôi trích dẫn một vài câu từ đó để thể hiện điều mà tôi coi là lập luận chính đang được đưa ra.

Nhưng giải quyết vấn đề chỉ là một công cụ và phương tiện để đạt được mục tiêu chính là sự hiểu biết và cái nhìn sâu sắc về khái niệm. Quên đi điều này trong thế giới AI có thể biến công cụ chống lại mục tiêu chính. Thật vậy, việc sản xuất hàng loạt các tuyên bố “đúng/sai” với tốc độ ngày càng nhanh có thể phá hủy mảnh đất màu mỡ thay vì thổi luồng sinh khí vào những ý tưởng mới.

Có lẽ lý do chính khiến tôi không ký là tôi không hoàn toàn tán thành quan điểm này. Thay vào đó, tôi có một cái nhìn phức tạp hơn, điều mà tôi thực sự đã bày tỏ trong bài luận "Hai nền văn hóa toán học" (The Two Cultures of Mathematics) của mình một phần tư thế kỷ trước, và có thể được tóm tắt bằng cách nói rằng có một phổ thái độ trong toán học đối với mối quan hệ giữa giải quyết vấn đề và hiểu biết khái niệm. Ở một đầu của phổ, bạn có những nhà toán học chủ yếu được thúc đẩy bởi mong muốn giải quyết các vấn đề, những người coi sự hiểu biết khái niệm là một phương tiện rất quan trọng để đạt được mục tiêu đó. Ở đầu kia, bạn có những nhà toán học chủ yếu được thúc đẩy bởi mong muốn đạt được sự hiểu biết khái niệm, những người coi việc giải quyết vấn đề là một phương tiện rất quan trọng để đạt được mục tiêu đó. Tôi lo ngại rằng bức thư về sự lệch lạc nghiêm trọng có thể bị coi là nói rằng thái độ “đúng” là tập trung vào sự hiểu biết khái niệm như ưu tiên chính — thực tế, các câu trên nói điều đó ít nhiều trực tiếp. Nhưng tôi nghĩ rằng có những nhà toán học trên khắp phổ, và đó là một điều tốt (hoặc có lẽ tôi nên nói rằng đó là một điều tốt cho đến nay — tương lai thì ít chắc chắn hơn nhiều), và tôi không muốn gợi ý với một phần lớn các nhà toán học, bao gồm cả chính tôi, rằng tính khí toán học của họ bằng cách nào đó là “sai”.

Thái độ toán học cụ thể của riêng tôi rất giống với thái độ đã được Jacob Tsimerman (một người không ký tên khác vào bức thư) trình bày rất hay trong một bài đăng trên Twitter, mà bây giờ khi nhìn lại, nó nói lên rất nhiều điều mà tôi sẽ nói ở đây. Và bài đăng đó lại là một phản hồi cho Daniel Litt, người mà theo ý kiến của tôi là một trong những nhà bình luận sáng suốt nhất về toán học và AI. Quan điểm của anh ấy được thể hiện trong một bài đăng sau đó ở đây, mà tôi cố tình không đọc cho đến khi hoàn thành bài này, và sau đó nhận thấy, như tôi mong đợi, rằng có sự trùng lặp đáng kể. Tôi cũng muốn nhân cơ hội này để giới thiệu một bài đăng xuất sắc của Noah Smith có tiêu đề "Sự kết thúc của kỷ nguyên anh hùng" (The End of the Age of Heroes), trong trường hợp bạn chưa đọc nó.

Cho đến nay tôi đã nói về sự hiểu biết toán học cá nhân, nhưng tôi nghi ngờ rằng điều khiến hầu hết những người ký tên lo lắng không phải là điều đó mà là sự hiểu biết tập thể có được ít nhất một phần từ hoạt động giải quyết vấn đề của con người. Tôi đoán rằng họ sẽ lập luận, hoàn toàn mạch lạc, rằng ngay cả khi sự hiểu biết tập thể là mục tiêu chính, nếu nhiều cá nhân chủ yếu được thúc đẩy bởi mong muốn giải quyết các vấn đề, thì điều đó hoàn toàn ổn và đóng góp vào sự hiểu biết tập thể đó.

Với cách giải thích đó, vấn đề trở nên hơi khác: liệu quan trọng hơn là sự hiểu biết tập thể của cộng đồng toán học nên tiên tiến nhất có thể hay là nên có câu trả lời cho càng nhiều vấn đề càng tốt? Hay hai mục tiêu đó có giá trị theo những cách khác nhau, để không có lý do gì để tuyên bố một trong số chúng quan trọng hơn? Hay chúng gắn bó chặt chẽ với nhau đến mức vô nghĩa khi tranh luận rằng cái này quan trọng hơn cái kia? Và khi chúng ta nói “quan trọng”, chúng ta đang nói nó quan trọng đối với ai: đối với các nhà toán học, hay đối với xã hội nói chung?

Tôi thấy đây là những câu hỏi khó, vì vậy tôi không muốn chỉ tuyên bố một câu trả lời cho chúng. (Bạn có thấy tôi đã làm gì ở đó không?) Thay vào đó, tôi muốn cố gắng đưa ra ít nhất một số lập luận cho bất kỳ kết luận nào tôi đưa ra, ngay cả khi chúng chỉ là tạm thời. Vì vậy, hãy so sánh hai kịch bản. Trong kịch bản đầu tiên, mà tôi nghĩ là kịch bản có nhiều khả năng xảy ra nhất, các mô hình trở nên công khai có sẵn, giỏi giải quyết các vấn đề hơn hầu hết tất cả các nhà toán học. Nếu có một vài nhà toán học còn sót lại có thể làm những việc mà các mô hình không thể, ngay cả họ cũng làm việc nhanh hơn nhiều nếu họ sử dụng nhiều các mô hình. Nhờ đó, trong một thời gian ngắn, chúng ta nhận được câu trả lời cho nhiều câu hỏi mà chúng ta đã quan tâm sâu sắc, nhưng tốc độ chúng ta nhận được những câu trả lời này vượt xa tốc độ mà cộng đồng toán học có thể hấp thụ chúng. Đặc biệt, hầu hết các câu trả lời đều đạt được mà không tốn chút công sức nào từ các nhà toán học con người — chỉ cần các lời nhắc như “Cảm ơn — xin hãy tiếp tục”.

Trong kịch bản thứ hai, đã có một thỏa thuận quốc tế, vì những lý do hoàn toàn khác, để chặn việc phát hành công khai các mô hình mạnh hơn đáng kể so với những mô hình chúng ta hiện có, và các nhà toán học trong các công ty công nghệ đồng ý không để các mô hình nội bộ của họ giải quyết các vấn đề lớn. Thay vào đó, họ nhận sự hướng dẫn từ cộng đồng toán học, chỉ giải quyết các vấn đề khi được yêu cầu làm như vậy bởi một cơ quan đại diện phù hợp nào đó, cơ quan quyết định rằng lợi ích của việc nhận được lời giải cho một vấn đề nhất định lớn hơn lợi ích của việc con người phải vật lộn để giải quyết nó trong một khoảng thời gian dài hơn nhiều.

Tôi muốn xem xét sự khác biệt giữa hai kịch bản này đối với cả sự hiểu biết cá nhân và tập thể. Tôi sẽ bắt đầu với sự hiểu biết cá nhân.

Người ta có thể lập luận rằng đối với sự hiểu biết cá nhân, sẽ không có quá nhiều thay đổi nếu chúng ta đột nhiên bị tràn ngập bởi một số lượng lớn các kết quả mới quan trọng. Đã có nhiều toán học ngoài kia hơn mức tôi có thể hy vọng hiểu được (ví dụ, mặc dù bị mê hoặc khi Định lý lớn Fermat được chứng minh, tôi đã không cố gắng hiểu chứng minh đó), và ngay cả trong những phần mà tôi hiểu, những phần mà tôi hiểu vì chính tôi đã khám phá ra chúng chỉ chiếm một phần rất nhỏ, mặc dù là phần mà tôi hiểu sâu sắc hơn bất cứ thứ gì khác (ít nhất là tạm thời — sau một thời gian tôi quên mọi thứ và mất khá nhiều sự hiểu biết mà tôi đã xây dựng). Tuy nhiên, một thay đổi, có vẻ tích cực, từ góc độ xây dựng sự hiểu biết cá nhân, là chúng ta sẽ có nhiều lựa chọn kết quả hơn mà chúng ta có thể chọn để nghiên cứu. Ngoài ra, nếu chúng ta thấy mình bị mắc kẹt ở một điểm nào đó, AI sẽ có thể giúp chúng ta. Thay đổi tiêu cực chính có khả năng xảy ra là chúng ta có lẽ sẽ ngừng rèn luyện phần não bộ mà chúng ta sử dụng khi dành hàng tháng hoặc hàng năm để vật lộn với một vấn đề nghiên cứu khó, điều này có thể cực kỳ hữu ích trong việc phát triển sự hiểu biết.

Tôi nói “có khả năng” vì về nguyên tắc sẽ không có gì ngăn cản chúng ta suy nghĩ về những vấn đề rất khó mà không cần tham khảo LLM, nhưng trên thực tế, có vẻ khó xảy ra việc mọi người sẽ bỏ ra cùng mức nỗ lực như họ làm bây giờ. Tình hình có thể hơi giống với những gì đã xảy ra với hệ thống định vị vệ tinh (satnav), nơi người ta luôn có thể quyết định không sử dụng chúng, để giữ cho phần não bộ có khả năng nhìn bản đồ, học lộ trình và đi theo nó được hoạt động, nhưng trên thực tế, hầu hết mọi người đều khuất phục trước sự cám dỗ sử dụng satnav. (Thực tế, bản thân tôi cố gắng giữ cho phần não đó hoạt động, và khá tự hào khi tìm đường đến một nơi nào đó gần đây khi tôi đã xem nhanh lộ trình trên điện thoại nhưng sau đó quên mang theo điện thoại khi thực sự đi đến đó.) Nhưng ngay cả khi tất cả những gì chúng ta đang làm là đọc kết quả đầu ra của AI, tôi nghĩ rằng các cơ bắp giải quyết vấn đề trong não sẽ không bị teo hoàn toàn. Khi sinh viên đọc các bài báo toán học, tôi khuyên họ (và tôi nghĩ đây là lời khuyên khá tiêu chuẩn) hãy đọc một cách “chủ động” thay vì “thụ động”, thực hiện những việc như cố gắng tự chứng minh kết quả, chỉ nhìn vào bài báo khi bạn cảm thấy bế tắc và cần một gợi ý, và ngay cả khi đó chỉ cố gắng lấy gợi ý và ít thông tin bổ sung nhất có thể. Nếu người ta đọc một bài báo theo cách đó, thì người ta liên tục giải quyết các vấn đề, một số chỉ là bài tập và một số khó hơn khá nhiều. Có vẻ như một LLM có thể biết nền tảng toán học của chúng ta là gì và cung cấp cho chúng ta những gợi ý phù hợp để cho phép chúng ta làm việc thông qua một bài báo toán học theo cách chủ động này. Vâng, chúng ta sẽ mất đi mức độ hiểu biết và quyền sở hữu đặc biệt sâu sắc đi kèm với việc tự mình giải quyết một vấn đề khó, nhưng không rõ ràng với tôi rằng sự tiến bộ trong toán học sẽ bị ảnh hưởng do kết quả đó. Tôi rất muốn nghe những lập luận phản bác chính điểm này. Đó là, tôi muốn biết mức độ tham gia sâu sắc đó với một chứng minh có thể có ích gì trong một thế giới nơi AI giỏi hơn chúng ta nhiều trong việc tìm ra các chứng minh.

Còn về sự hiểu biết tập thể thì sao? Hãy để tôi trích dẫn thêm một chút từ bức thư.

Thật vậy, việc sản xuất hàng loạt các tuyên bố “đúng/sai” với tốc độ ngày càng nhanh có thể phá hủy mảnh đất màu mỡ thay vì thổi luồng sinh khí vào những ý tưởng mới.

Thông thường, những lời giải này được công bố một cách vội vàng, không có thời gian cho một bản viết hoàn chỉnh, sự cô lập các phương pháp và ý tưởng mới, và trích dẫn các công việc trước đó có liên quan của những người khác. Như trong tất cả các ngành nghề sáng tạo, điều này đặt ra những câu hỏi nghiêm trọng về ghi nhận tác giả và đạo văn. Hơn nữa, nếu không có những nhà toán học sẵn lòng chăm sóc việc phát triển và tích hợp chúng vào hệ thống toán học, các ý tưởng do AI hình thành sẽ không bao giờ thực sự sống động và chuỗi truyền tải quan trọng giữa các nhà toán học sẽ bị mất đi.

Tôi sẽ quay lại các câu hỏi về việc trích dẫn đúng cách và tập trung vào điều mà tôi coi là mối lo ngại cốt lõi ở đây: rằng nếu các kết quả được chứng minh quá nhanh, thì quá trình tiêu hóa sẽ trở nên bất khả thi. Tôi chắc chắn lo ngại rằng các kết quả sẽ không được tiêu hóa đúng cách, nhưng vì những lý do khác.

Một nhận xét đầu tiên là những gì AI đang tạo ra không chỉ là các tuyên bố đúng/sai: chúng ta hiện biết không chỉ rằng phương trình Navier-Stokes với lực ép trơn cho phép sự bùng nổ trong thời gian hữu hạn, mà chúng ta còn có một chứng minh cho điều đó, dựa trên rất nhiều công trình tuyệt vời được thực hiện bởi các nhà toán học con người. Nhiều người từng bày tỏ lo ngại rằng AI sẽ giải quyết các vấn đề yêu thích của chúng ta với những chứng minh hoàn toàn mờ mịt, nhưng điều đó đã không xảy ra, ngay cả khi các bản viết của chúng thường để lại nhiều điều đáng mong đợi. (Nhân tiện, tôi coi những bản viết không đầy đủ này gần như chắc chắn là một sự phiền toái tạm thời và do đó không phải là một mối đe dọa cơ bản đối với thực hành toán học hoặc sự hiểu biết toán học trong tương lai.)

Thứ hai, ngay cả khi khối lượng kết quả mới là lớn, toán học là một ngành học chuyên môn hóa cao, vì vậy các nhà toán học có thể làm việc song song. Nếu, ví dụ, chúng ta phải tiêu hóa 1000 kết quả quan trọng trong một năm được phân bổ tương đối đồng đều trên khắp toán học, thì hầu hết các cộng đồng phụ của các nhà toán học có lẽ sẽ muốn hiểu khoảng 30 trong số đó, và đối với mỗi vấn đề cá nhân, có thể chỉ có một số ít chuyên gia là những người rõ ràng sẽ dẫn đầu trong việc đạt được sự hiểu biết này, với số lượng ít ỏi đó thay đổi từ vấn đề này sang vấn đề khác. Vì vậy, đó sẽ là một nhiệm vụ lớn, nhưng không nhất thiết là một nhiệm vụ bất khả thi.

Trong bối cảnh này, đáng để suy nghĩ về khối lượng đầu ra khổng lồ của các nhà toán học con người, dường như đã tăng lên gần đây, ngay cả trước khi có AI. Mặc dù đôi khi tôi nghe thấy những lời phàn nàn về điều này, nhưng tôi chắc chắn chưa nghe thấy những gợi ý rằng các nhà toán học con người nên làm chậm tốc độ chứng minh các định lý thú vị. Điều đó có thể một phần vì các tác giả của những định lý đó chịu khó viết bài báo của họ tốt và có những bài nói chuyện hay. Nhưng còn về số lượng lớn các bài báo, bao gồm cả những bài quan trọng, không được viết tốt và có tác giả đưa ra những bài nói chuyện khó hiểu thì sao? Điều đó có thể gây khó chịu, nhưng đó là một sự khó chịu quen thuộc và không phải là điều mà chúng ta coi là một cuộc khủng hoảng.

Điểm thứ ba là ngay cả khi khối lượng đầu ra của AI quá lớn để chúng ta có thể tiêu hóa nó đúng cách, đó không nhất thiết là một điều tồi tệ. Để đưa ra một sự tương tự không hoàn hảo, hiện nay có nhiều nội dung có sẵn trên các dịch vụ phát trực tuyến hơn mức bất kỳ ai có thể xem, với kết quả là gần như chắc chắn có một số nội dung rất hay ngoài kia mà hầu như không được xem. Nhưng đó không rõ ràng là một tình huống tồi tệ hơn so với việc có ít nội dung hơn nhiều và tất cả chúng đều nhận được sự chú ý xứng đáng. Quay lại với toán học, nếu có quá nhiều nội dung do AI tạo ra để chúng ta có thể tiêu hóa, thì chúng ta có thể chọn những phần nào chúng ta muốn tiêu hóa.

Đối với điều đó, chúng ta cần có một ý tưởng về những gì ở đó (một tình huống hơi giống với cách các nhà toán học con người thường học khá nhiều về những kết quả nào được biết đến trong lĩnh vực của họ ngay cả khi họ không hiểu chi tiết các chứng minh của chúng). Một cách người ta có thể cố gắng đạt được điều đó là tạo ra một cơ sở dữ liệu được thiết kế tốt, có lẽ với sự trợ giúp của AI. Nhưng có lẽ điều đó là không cần thiết, và thay vào đó người ta có thể chỉ cần nói chuyện với một LLM và yêu cầu nó đưa ra cái nhìn tổng quan về bất kỳ lĩnh vực toán học nào mà người ta muốn hiểu theo cách biết-những-gì-ở-đó.

Nỗi sợ hãi dường như là một số phần rất thú vị và quan trọng của toán học sẽ được AI khám phá và sau đó bị bỏ qua, trong khi nếu chúng được các nhà toán học con người khám phá, chúng sẽ không bị bỏ qua. Và điều đó thậm chí có thể là trường hợp, nhưng điều quan trọng là liệu lượng toán học thú vị và quan trọng được AI khám phá mà không bị bỏ qua có vượt quá lượng toán học thú vị và quan trọng mà con người sẽ khám phá và tiêu hóa đúng cách với việc AI đóng một vai trò khiêm tốn hơn hay không.

Tóm lại, đối với tôi, trong khi một làn sóng các kết quả “lớn” từ AI có khả năng làm tăng lượng toán học quan trọng không được tiêu hóa đúng cách, nó cũng có khả năng làm tăng lượng toán học được tiêu hóa đúng cách, điều này có vẻ như là một món hời khá tốt.

Hãy để tôi thảo luận nhanh về vấn đề AI không ghi nhận công lao của các nhà toán học con người một cách đúng đắn. Tôi đồng ý rằng đây là một vấn đề nghiêm trọng ngay bây giờ, nhưng đó là một vấn đề khác mà tôi coi là tạm thời. Rất sớm thôi, toàn bộ “hệ thống tín dụng” chắc chắn sẽ sụp đổ, vì việc tìm ra một chứng minh tuyệt vời sẽ không còn là một thành tựu trí tuệ hơn là khi một nhà khoa học công dân phát hiện qua kính thiên văn của họ một vật thể hóa ra là một sao chổi mới. Cho đến khi điều đó xảy ra, điều quan trọng là phải ghi nhận công lao xứng đáng cho con người, vì sự nghiệp có thể phụ thuộc vào nó, nhưng điều đó cũng sẽ sớm không còn là trường hợp nữa. Tôi phải nói rằng tôi bối rối khi vấn đề này tồn tại, vì tôi đã nghĩ rằng nếu bạn yêu cầu một LLM xem xét một chứng minh và cho bạn biết những ý tưởng nào trong đó gần với những ý tưởng đã có trong tài liệu, nó sẽ cực kỳ giỏi trong nhiệm vụ đó. Tôi hy vọng câu trả lời cho câu đố này không phải là mọi người đã quá vội vàng đến mức họ đơn giản là không chịu khó làm điều này, nhưng tôi sợ rằng có thể là như vậy, ít nhất là trong một số trường hợp. Nếu vậy, thì những người bất cẩn xứng đáng bị chỉ trích, nhưng đó là một vấn đề nhỏ so với sự tồn tại của toán học, đặc biệt là nếu việc thiếu trích dẫn được khắc phục nhanh chóng.

Tất cả những điều này có nghĩa là tôi lạc quan rằng các nhà toán học cuối cùng sẽ tiêu hóa được nhiều toán học trong một thế giới hậu AI như thể AI đã không thể chứng minh các định lý lớn? Không chính xác. Nhưng nỗi lo của tôi không phải là chúng ta sẽ không thể làm được điều đó, mà là các cấu trúc xã hội hiện đang hỗ trợ quá trình tiêu hóa này sẽ bị phá hủy và không được thay thế một cách đầy đủ.

Một cách điều đó có thể xảy ra là AI làm gián đoạn xã hội quá nhiều, hoặc thậm chí giết chết một số lượng lớn chúng ta, đến mức việc bảo tồn một cái gì đó giống như truyền thống toán học hiện tại không còn là mối quan tâm nữa: tất cả những gì quan trọng sẽ là sự tồn tại của loài người. Nhưng đó lại là một chủ đề cho một bài đăng blog khác (mà thực tế tôi đang viết dở).

Thay vào đó, hãy giả sử chúng ta may mắn và AI vẫn ít nhiều nằm trong tầm kiểm soát. Nỗi lo của tôi sau đó là chúng ta không quản lý được việc truyền đạt những gì chúng ta biết cho một thế hệ nhà toán học mới. Nói về bản thân mình, động lực chính để tôi trở thành một nhà toán học là giấc mơ rằng tôi sẽ giải quyết được các vấn đề chưa có lời giải — càng nổi tiếng càng tốt. Tôi cũng luôn thích suy nghĩ trực tiếp về một vấn đề hơn là đọc sách và bài báo và nói chung là học toán học của người khác. (Tôi không nói rằng điều đó tốt, mà chỉ nêu một sự thật về bản thân mình.) Nếu giấc mơ giải quyết một vấn đề nổi tiếng không tồn tại, tôi không chắc liệu mình có trở thành một nhà toán học hay không. Tôi không hoàn toàn loại trừ điều đó: có lẽ điều thực sự thúc đẩy tôi là tôi có năng khiếu về môn học này và việc giải quyết các vấn đề là một cách để có được sự tôn trọng từ một nhóm nhỏ các đồng nghiệp. Và có lẽ tôi có thể đã cố gắng đạt được sự tôn trọng đó theo một cách khác, chẳng hạn như suy nghĩ rất kỹ về một lĩnh vực toán học cho đến khi tôi có thể chứng minh cho người khác thấy tôi hiểu nó tốt như thế nào. Nhưng tôi không chắc điều đó sẽ thúc đẩy tôi đến mức nào. Tôi rất hy vọng rằng có một nhóm những người trẻ tuổi mà đối với họ đó sẽ là một động lực mạnh mẽ, bởi vì tôi nghĩ sự tồn tại của một truyền thống toán học nhân loại có thể phụ thuộc vào nó.

Do đó, rủi ro chính, theo tôi thấy, là rất nhiều người lẽ ra đã làm tiến sĩ toán học và trở thành những người bảo vệ truyền thống toán học sẽ không còn muốn làm như vậy nữa. Những người trong chúng ta có nghiên cứu sinh tiến sĩ, bao gồm cả tôi, cần cố gắng hết sức để đưa ra những cách sáng tạo để họ sử dụng thời gian của mình một cách hiệu quả (tất nhiên là có tham khảo ý kiến của chính các sinh viên). Việc chúng ta làm tốt công việc đó hay không có thể tạo ra sự khác biệt lớn cho tương lai của toán học. Một rủi ro liên quan là nhận thức của các nhà hoạch định chính sách sẽ là các nhà toán học không còn cần thiết nữa và việc tài trợ sẽ trở nên khó khăn hơn nhiều: chúng ta cần khẩn trương đưa ra những cách tốt để giải thích giá trị của việc có một nhóm lớn các chuyên gia toán học con người, ngay cả khi việc tìm ra các chứng minh mới cho các định lý không còn là một phần trong vai trò của họ.

Một lý do cuối cùng khiến tôi không ký vào bức thư là tôi không thực sự chắc chắn nó đang yêu cầu điều gì mà chưa xảy ra. Có vẻ như trong vòng không quá nhiều tháng nữa, các LLM sẽ được phát hành có khả năng giải quyết các vấn đề toán học lớn, và chúng có lẽ sẽ không gặp khó khăn gì với các vấn đề thông thường hơn. Dù chúng ta có thể hối tiếc điều đó đến mức nào, không có cơ hội nào tác động của các mô hình như vậy đối với toán học sẽ thuyết phục các công ty AI ngừng phát hành chúng, mặc dù có lẽ những lo ngại về an toàn sẽ dẫn đến một số chậm trễ và cho chúng ta thêm một chút thời gian để tìm cách thích nghi. Giả sử chúng được phát hành, sẽ có một làn sóng các kết quả mới, dù chúng ta có thích hay không, và sẽ không còn là các công ty AI tạo ra chúng nữa, mặc dù có lẽ mô hình sẽ tiếp tục là các công ty AI sẽ có quyền truy cập vào các mô hình mạnh hơn và do đó sẽ đạt được nhiều hơn phần công bằng của họ về các kết quả tiêu đề. Vì vậy, tôi cảm thấy không có gì đạt được từ việc chỉ trích các công ty AI vì tạo ra quá nhiều lời giải quá nhanh. Trên thực tế, có thể tất cả những gì làm là đẩy nhanh hơn một vài tháng những gì dù sao cũng sẽ xảy ra, và có lẽ nó thậm chí sẽ cho phép các kết quả được phát hành theo cách có kiểm soát hơn so với việc chúng được phát hiện bởi những người ngẫu nhiên khi các mô hình đã có sẵn công khai. Trong hoàn cảnh đó, tôi nghĩ điều tốt nhất chúng ta có thể làm là nhận ra những thay đổi sắp tới và cố gắng tìm ra cách ít không thỏa đáng nhất để đối phó với chúng.

Thẻ: ai, trí-tuệ-nhân-tạo, toán, toán-học, công-nghệ