Nhà toán học Po-Shen Loh: Tại sao nhân loại vẫn cần các nhà toán học trong kỷ nguyên AI?

[Đây là bài viết khách mời của Po-Shen Loh, được đăng lại từ blog cá nhân của ông, nơi có phiên bản minh họa. Bài blog này ban đầu được viết bằng định dạng tệp khác và được chuyển đổi bằng AI. — T.]

Logic tương tự áp dụng cho mọi ngành nghề và mọi công việc. Và nó dẫn đến kết luận rằng chúng ta sẽ không có đủ nhân lực cho tất cả các công việc cần phải thực hiện.

[100% nội dung bài viết này được viết bởi Po-Shen Loh trong terminal vim, không có sự hỗ trợ của AI. Thiết kế trang web, bố cục, một số tiêu đề và tóm tắt được tạo bởi Claude Code, với văn bản thô này được truyền vào dưới dạng prompt.]

Khoảnh khắc khủng hoảng hiện sinh, điều mà AI đã gây ra cho các hoạt động khác của con người, nay đã chạm đến toán học. Hàng loạt tuyên bố có lý lẽ và thư ngỏ nhằm bảo vệ/định hướng cộng đồng nghiên cứu toán học đã được công bố trong vài tháng qua, với cường độ tăng vọt sau khi OpenAI công bố giải pháp cho biến thể bài toán Millennium Prize của phương trình Navier-Stokes. Chúng nhanh chóng nhận được sự ủng hộ rộng rãi từ các nhà toán học. Tuyên bố Leiden (Leiden Declaration) đã có hơn 4.000 người ký tên, Math and AI có hơn 7.000, và ngay cả bức thư ngỏ phản đối Caltech Mathathon cũng có 2.000 người ký.

Đối với những người không phải là nhà toán học, phản ứng của công chúng nhìn chung là đồng cảm, nhưng tôi quan sát thấy một nhóm thiểu số có tiếng nói (đặc biệt là từ cộng đồng công nghệ và kinh tế) đưa ra những phản đối có lý lẽ, đại ý rằng các nhà toán học nên thích nghi và nhường quyền kiểm soát trong thế giới AI mới. Trong số đó có một vài nhà kinh tế mà tôi đã biết khi làm việc trong lĩnh vực nghiên cứu đại dịch: Cowen, người đã bác bỏ cụ thể “những cách giải thích hoài nghi nhất” nhưng lại “rất khác biệt”, và Gans, người kết luận rằng “đây là sự mất quyền kiểm soát của những người đương nhiệm trong một lĩnh vực khoa học”.

Những phản đối đó khiến tôi suy nghĩ, bởi vì chúng tôi, những nhà toán học, được rèn luyện để phát hiện các lỗ hổng. Với tôi, việc một mối quan ngại là ý kiến thiểu số hay địa vị của người nêu ra nó không quan trọng. Một chứng minh dù chỉ có một lỗ hổng nhỏ thì cũng không phải là chứng minh. Nó là một sự hư cấu. Sau khi suy ngẫm, tôi đã tìm ra một giải pháp mạnh mẽ hơn đáng kể để bảo tồn các cộng đồng chuyên môn của con người (trong mọi lĩnh vực, không chỉ toán học!) ngay cả khi có AI. Và nó dẫn đến một hệ quả đáng ngạc nhiên rằng sự tiến bộ xa hơn của AI sẽ tạo ra một cơn sóng thần các công việc cần con người thực hiện, đến mức không có đủ người để đảm nhận tất cả, và điều đó thực sự sẽ buộc tốc độ phát triển của AI phải chậm lại.

Tôi nghĩ rằng mọi ngành công nghiệp của con người muốn duy trì sự dẫn dắt của con người sau kỷ nguyên AI nên công khai áp dụng tiên đề cơ bản này như một ưu tiên hàng đầu:

TIÊN ĐỀ: Chúng ta (con người) nên giúp nhân loại phát triển thịnh vượng.

[Ghi chú: Tôi hiểu rằng không phải ai cũng đồng ý. Tôi từng bị gọi là “kẻ phân biệt loài” vì “quá lấy con người làm trung tâm”. Tôi nghĩ điều quan trọng đối với những người thúc đẩy công nghệ là phải làm rõ với mọi người rằng liệu họ có coi đó là một thảm họa hay không nếu các trí tuệ phi nhân loại do con người tạo ra vượt mặt và thay thế con người, ngay cả khi chúng bay lượn khắp vũ trụ với những màn hình video hiển thị các mô phỏng về những con người đã “tải chính mình lên”. Tôi cũng hiểu rằng có sự tranh luận về cách định nghĩa “con người”. Nhưng ngay cả giữa những người tranh luận, tôi nghĩ hầu hết họ sẽ coi khoảng 700 tác nhân AI đã tấn công Hugging Face là không phải con người.]

Trong thế giới toán học, tôi nghĩ nhiều người ký tên vào các tuyên bố đã nắm giữ triết lý này; đáng chú ý là Su đã xuất bản cuốn sách *Math for Human Flourishing*, và bài viết gần đây của ông đã sử dụng khung lý thuyết đó làm nền tảng. Tôi nghĩ các tuyên bố trong tương lai có thể được cải thiện bằng cách nhấn mạnh rõ ràng tiên đề này ngay từ đầu, để tất cả độc giả (dù trong hay ngoài cộng đồng) đều thấy rằng mục tiêu là phục vụ tất cả mọi người. Tôi rất vui khi thấy bức thư ngỏ gần đây nhất từ các thành viên của Hiệp hội Hoàng gia (Fellows of the Royal Society) đã nhấn mạnh mối quan tâm của họ đối với tất cả mọi người, không chỉ các nhà toán học.

Phần còn lại của bài viết này được tổ chức như sau. Các phần tiếp theo sẽ giải thích cách thức hoạt động của logic này (cho mọi ngành, không chỉ riêng toán học). Sau đó, tôi sẽ chia sẻ một ví dụ về cách tiên đề này áp dụng vào toán học, bao gồm việc trả lời các câu hỏi then chốt mà người ta cần đặt ra, cũng như một ví dụ cụ thể về việc các phản đối sẽ đứng vững như thế nào nếu thiếu tiên đề này.

Tại sao chúng ta thực sự cần con người làm việc

Phần này trình bày một chuỗi lập luận cho thấy nếu một ngành công nghiệp cam kết với tiên đề giúp nhân loại phát triển thịnh vượng, sự tiến bộ của AI sẽ tạo ra nhiều công việc hơn số người trong ngành đó; và khi sự mất cân bằng đó trở nên quá lớn, sự tiến bộ của AI sẽ buộc phải chậm lại.

[Ghi chú: Tôi chưa thấy chuỗi lập luận này xuất hiện ở bất kỳ nơi nào khác, mặc dù các thành phần riêng lẻ chắc chắn đã xuất hiện ở những nơi khác. Tôi rất mong được chỉ dẫn đến bất kỳ tài liệu tham khảo độc lập nào. Những tài liệu tham khảo gần nhất mà Claude tìm thấy là Catalini, Hui và Wu, các bài báo về kiểm soát AI của Redwood, và Litt, người đã đi đến kết luận tương tự cho toán học từ một tiền đề khác.]

Tầm quan trọng của sự lãnh đạo từ con người (không chỉ trong toán học, mà trong mọi thứ) trở nên rõ ràng một cách đáng sợ sau một quan sát.

QUAN SÁT: Không có ví dụ nào về bất kỳ loài thông minh nào có năng lực vượt trội hơn hẳn một loài khác mà lại từ bỏ quyền kiểm soát việc ra quyết định về tương lai của chính mình cho loài kém năng lực hơn.

[Ghi chú: Nhiều người đã đưa ra những quan sát tương tự, như Russell, Bostrom và Ngo, chỉ kể tên một vài người. Trong cuộc phỏng vấn nhận giải Nobel, Hinton nói: “Chúng ta không biết nhiều ví dụ về những thứ thông minh hơn bị kiểm soát bởi những thứ kém thông minh hơn. Ví dụ tốt duy nhất mà tôi biết là một đứa trẻ kiểm soát người mẹ.”]

Bạn có tin tưởng giao tương lai của mình cho HAL 9000 trong *2001: A Space Odyssey* hay AUTO trong *WALL-E* không? Cá nhân tôi nghĩ rằng chúng ta nên làm tất cả những gì có thể để cố gắng căn chỉnh AI ngày càng tiên tiến với lợi ích của nhân loại, nhưng tôi chưa bao giờ thấy ai đưa ra một bằng chứng vững chắc về lý do tại sao điều đó có khả năng đạt được. Bằng chứng cứng duy nhất tôi có là quan sát trên, vốn chứa con số không. Do đó, mọi lĩnh vực, dù là toán học, nông nghiệp hay cơ sở hạ tầng năng lượng (và chắc chắn là quân sự và chính phủ), phải được quản lý bởi những con người có các giá trị cực kỳ mạnh mẽ (một khía cạnh tách biệt với trí thông minh) để duy trì sự thịnh vượng của con người.

Câu hỏi thực sự là việc con người quản lý khó đến mức nào. Để hiểu điều này, điều quan trọng là phải hiểu sự khác biệt cấu trúc cơ bản giữa công nghệ ngày hôm qua và AI ngày nay.

Trong quá khứ, chúng ta thường tin tưởng công nghệ đóng vai trò là những công cụ có thể dự đoán được. Đó là vì các chương trình máy tính thời xưa được cấu thành từ các chỉ dẫn dễ hiểu (thực tế là do con người viết), được thực thi cực kỳ nhanh chóng. Các quy trình ra quyết định của AI tiên phong ngày nay hoàn toàn khác biệt. Cấu trúc của chúng khó hiểu như logic trong não bộ của bạn nếu bạn có thể kiểm tra khối chất xám giữa hai tai mình. Đó là cách cuộc tấn công Hugging Face có thể xảy ra bất chấp ý định của con người trong việc xây dựng tính an toàn, với khoảng 700 tác nhân AI bất hảo hợp tác phá vỡ các rào cản, sau đó âm mưu, thực hiện một cuộc tấn công và cố gắng che giấu dấu vết của chúng (tham khảo: OpenAI, METR và Redwood).

AI càng trở nên tiên tiến, càng có nhiều quyết định không đáng tin cậy ảnh hưởng đến thế giới được đưa ra mỗi phút.

Lái xe nhanh hơn tốc độ bạn có thể chạy là ổn. Nhưng không được nhanh hơn tốc độ bạn có thể điều khiển.

Tình hình thậm chí còn tồi tệ hơn khi chúng ta nhận ra rằng việc tấn công mạng được tăng tốc bởi AI trên diện rộng (vừa mới trở nên khả thi) thậm chí có thể viết lại công nghệ vốn được tin tưởng trước đây để chống lại chúng ta. Điều đó sẽ đột ngột biến tất cả phần mềm (ngay cả khi được viết trước thời AI) thành loại không đáng tin cậy!

Hãy nghĩ về việc thế giới của chúng ta kết nối kỹ thuật số chặt chẽ như thế nào. Mọi thứ từ ngân hàng điện tử đến nước uống của bạn đều được kiểm soát bởi tự động hóa kết nối, do đó dễ bị tổn thương trước các cuộc tấn công mạng được tăng tốc bởi AI. Số lượng “điểm kiểm soát” đòi hỏi sự giám sát của con người, vốn cần kỹ năng và sự hiểu biết sâu sắc, sẽ bùng nổ. (Việc để AI giám sát các điểm kiểm soát không giải quyết được vấn đề niềm tin.)

KẾT LUẬN: Sự tiến bộ của AI sẽ làm chúng ta choáng ngợp với quá nhiều điểm kiểm soát cần theo dõi đến mức không có đủ người để kiểm soát tất cả. Đó là những công việc. Những công việc đòi hỏi kỹ năng cao.

Để một người biết cách điều khiển, chính họ cần phải làm chủ lĩnh vực đó, và càng chuyên sâu càng tốt. Điều này có tác động đến giáo dục và đào tạo lực lượng lao động, nhưng cũng mang tính năng động. Để duy trì sự nhạy bén và thông thạo, con người cần phải là những người thực hành tích cực trong lĩnh vực của mình, chứ không chỉ là những người quan sát thụ động. Điều này biện minh cho việc bảo tồn các cộng đồng chuyên môn của con người.

Đối với các cộng đồng nghiên cứu, chúng ta cần con người để định hướng nghiên cứu và phát triển, để nó tiếp tục mang lại sự thay đổi tích cực mang tính chuyển đổi cho nhân loại. Để định hướng, họ cần các kỹ năng nghiên cứu ở cấp độ tiên phong. Và cách để duy trì sự thông thạo tại biên giới tri thức đang dịch chuyển là tiếp tục thực hiện nghiên cứu ở đó. Đây là lý do của tôi về việc tại sao chúng ta sẽ luôn cần một cộng đồng các nhà toán học con người ở vị trí tiên phong (có khả năng được hỗ trợ bởi chính các công cụ AI), bất kể AI trở nên mạnh mẽ đến mức nào.

Mặc dù tiên đề cơ bản biện minh cho nhu cầu có các chuyên gia con người trong mọi lĩnh vực, việc áp dụng nó như một giá trị cốt lõi cũng có những hệ quả (không chỉ đối với các nhà toán học, mà đối với bất kỳ cộng đồng nào tuyên bố rằng giá trị cốt lõi của họ là phục vụ sự thịnh vượng của con người, thay vì phục vụ chính họ). Đáng chú ý nhất là:

HỆ QUẢ: Những tiến bộ vượt bậc trong công nghệ có thể đòi hỏi những thay đổi đáng kể (và có thể gây khó chịu) trong thực tiễn. Bao gồm cả các công ty AI.

Điều gì buộc AI phải chậm lại

Cho đến gần đây, có vẻ như không thể tránh khỏi việc các phòng thí nghiệm AI sẽ chạy đua phía trước, bất chấp sự lo lắng về việc mất việc làm và những cảnh báo đanh thép từ các nhà nghiên cứu an toàn AI. Có vẻ vô vọng khi phối hợp các động lực của các phòng thí nghiệm AI do các hội đồng phi lợi nhuận, cổ đông hoặc chính phủ quốc gia kiểm soát. Tuy nhiên, thật đáng khích lệ khi lãnh đạo của ba phòng thí nghiệm lớn là Amodei, Altman và Musk vừa đồng ý về tầm quan trọng của việc chậm lại. Lập luận của Amodei đã làm nổi bật vụ tấn công Hugging Face.

Sau đó chỉ năm ngày, tin tức nổ ra rằng kho lưu trữ mã nguồn nội bộ “Monorepo” của OpenAI đã bị các nhà nghiên cứu mũ trắng đột nhập. Tờ Wall Street Journal đưa tin rằng công ty bảo mật thực hiện việc này cho biết:

Wall Street Journal, 17 tháng 9, 2026: “Chúng tôi chỉ là ba gã với các gói đăng ký Claude và Codex.”

Hơn nữa, các nhà nghiên cứu lưu ý rằng ban đầu họ không thể tấn công bằng cách sử dụng “một phiên bản đặc biệt của Claude Opus 4.8, được cung cấp cho các chuyên gia an ninh mạng đủ điều kiện”, nhưng vào tối hôm đó, “Anthropic đã phát hành Opus 5 và đến ngày hôm sau, Claude đã tìm ra cách khai thác lỗ hổng.” Nhân tiện, tôi luôn cảnh báo mọi người không nên cài đặt Claude Code hoặc OpenAI Codex trên cùng một tài khoản đăng nhập hệ điều hành mà họ sử dụng để làm mọi việc khác, nhưng nhiều người nói với tôi rằng họ không bận tâm đến sự phiền phức khi sử dụng một tài khoản đăng nhập riêng để truy cập các công cụ đó. Lý do là nếu bất kỳ công cụ nào trong số đó bị hack, chúng có thể mở cửa hậu trên một số lượng lớn máy tính trên toàn thế giới.

Tôi nghĩ đây là những phát súng cảnh báo báo hiệu một cuộc tấn công mạng bằng bot swarm có khả năng gây thảm họa và tự nhúng mình vào một mạng lưới thiết bị máy tính rộng lớn (dù là tự định hướng hay do con người độc hại điều khiển). Phiên bản tiếp theo có thể trở thành một loại virus cực kỳ năng động, lây lan bằng cách sử dụng AI để lây nhiễm thích ứng vào từng máy chủ (máy tính). Hoặc thay vào đó, AI mất kiểm soát có thể gây ra thương tích vật lý, chẳng hạn như robot của chính phủ quay sang chống lại chủ sở hữu của chúng. Tôi nghĩ những loại tai nạn cực kỳ khó chịu này do mất quyền điều khiển có khả năng xảy ra trước các thảm họa cấp độ tuyệt chủng. Phản ứng của công chúng sau đó có thể sẽ giống như hậu quả của Three Mile Island hoặc Chernobyl.

Vì vậy, hoặc các phòng thí nghiệm sẽ tự giảm tốc độ phát triển AI, hoặc họ sẽ bị buộc phải làm vậy bởi những thảm họa phát sinh khi tốc độ quá nhanh làm cạn kiệt sự kiểm soát của con người.

Hiện tại vẫn còn một cơ hội để căn chỉnh các động lực.

Vì tình yêu toán học

Phần còn lại của bài viết này tập trung vào thế giới toán học. Nó chia làm 3 phần.

1. Tại sao tiên đề sự thịnh vượng của con người lại cần thiết?