LLM thực sự giỏi loại toán nào?

Để dành cho bất kỳ ai có thể đọc bài blog này trong tương lai xa (ví dụ như một tháng nữa), tôi xin lưu ý rằng tôi đang viết bài này vài ngày sau khi OpenAI thông báo rằng họ đã giải quyết được mười bài toán lớn trong toán học và khoa học máy tính lý thuyết, bao gồm việc xây dựng đầu tiên về một nhóm không-sofic (non-sofic group), và chứng minh rằng số Ramsey đa sắc (nơi có các số 3) tăng trưởng siêu lũy thừa trong. Theo đánh giá từ nhiều buổi hội thảo mà tôi từng tham dự, kết quả đầu tiên là một trong những bài toán chưa có lời giải quan trọng nhất trong lý thuyết nhóm, và kết quả thứ hai là một bài toán mở lớn trong lý thuyết Ramsey mà tôi không nhất thiết kỳ vọng sẽ thấy được giải quyết trong đời mình, mặc dù tất nhiên những kỳ vọng đó giờ đây phải được xem xét lại. Lý do tôi muốn làm rõ về thời điểm này là vì tôi sẽ thảo luận về các khả năng hiện tại của các LLM với kỳ vọng đầy đủ rằng chúng sẽ tiếp tục thay đổi nhanh chóng. Vì vậy, có khả năng là không lâu nữa, nếu có bất cứ điều gì thú vị trong những gì tôi viết, nó sẽ chỉ thú vị chủ yếu như một bản ghi chép về tình hình vào đầu tháng 8 năm 2026.

Những kết quả này, cùng với tám kết quả khác trong danh sách, cực kỳ ấn tượng, nhưng dường như vẫn chưa phải là trường hợp các LLM giỏi hơn tất cả con người ở mọi khía cạnh của toán học. Nếu chúng thực sự giỏi như vậy, thì lợi thế về tốc độ vượt trội so với chúng ta sẽ dẫn đến một làn sóng kết quả ồ ạt hơn nhiều. Vì vậy, thật tự nhiên khi tự hỏi các LLM giỏi ở những loại bài toán nào, và đâu là nơi vẫn còn chỗ để cải thiện. Tôi không giả vờ có một câu trả lời thỏa đáng cho câu hỏi này — một câu trả lời thỏa đáng phải là một sự phân loại sắc bén phù hợp với các ví dụ hiện tại — nhưng việc cố gắng loại bỏ một số câu trả lời sai và xác định các câu trả lời tiềm năng không bị mâu thuẫn rõ ràng bởi bằng chứng thực tế là một bài tập thú vị.

Liệu các LLM có đặc biệt giỏi trong việc tìm kiếm các phản ví dụ?

Một nhận xét đầu tiên ở đây là các LLM không chỉ giỏi tìm phản ví dụ: chúng cũng có thể tìm ra các chứng minh cho những mệnh đề khó. Tuy nhiên, đáng chú ý là hầu hết các bài toán nổi tiếng nhất mà chúng giải được đều thông qua phản ví dụ thay vì các chứng minh. Điều đó đúng với hai bài toán đã đề cập ở trên, cũng như với giả thuyết Jacobian và giả thuyết khoảng cách đơn vị (unit distance conjecture).

Nếu muốn đưa ra giả thuyết rằng các LLM đặc biệt giỏi trong việc tìm kiếm phản ví dụ, thì có hai việc cần làm để giả thuyết đó trở nên thuyết phục hơn. Việc đầu tiên nghe có vẻ không có vấn đề gì: đó là quyết định khi nào việc giải một bài toán được tính là tìm ra một phản ví dụ. Sau khi đã làm rõ điều đó, việc thứ hai là đưa ra một lời giải thích tiềm năng về lý do tại sao các LLM lại đặc biệt phù hợp để giải quyết các loại bài toán cụ thể đó.

Tìm kiếm một phản ví dụ có nghĩa là gì?

Tại sao tôi lại cho rằng việc tìm kiếm một phản ví dụ có nghĩa là gì không hoàn toàn hiển nhiên? Chắc chắn, người ta có thể gợi ý rằng, tất cả những gì nó có nghĩa là bạn có một mệnh đề dạng “Mọi đối tượng thuộc loại này nọ đều có tính chất này nọ,” và bạn đưa ra một đối tượng thuộc loại đã cho mà không có tính chất đó.

Tuy nhiên, điều này không phải lúc nào cũng hiệu quả. Hãy xem xét một kết quả nổi tiếng của Vinogradov, phát biểu rằng mọi số nguyên dương đủ lớn đều là tổng của ba số nguyên tố. Phủ định của mệnh đề này là (hoặc tương đương với) mệnh đề rằng với mọi số nguyên dương, tồn tại một số nguyên sao cho không phải là tổng của ba số nguyên tố. Nói cách khác, nó phát biểu rằng mọi số nguyên dương đều có một tính chất nhất định. Nhìn dưới góc độ này, Vinogradov đã tìm thấy một ví dụ về một số nguyên dương không có tính chất đã cho. Chúng ta có muốn nói rằng Vinogradov đã tìm thấy một phản ví dụ không? Rõ ràng là không — kết quả đó hiển nhiên nên được phân loại là một định lý chứ không phải một phản ví dụ.

Do đó, chúng ta không thể chỉ ngây thơ nói rằng các LLM đặc biệt giỏi trong việc phủ định các mệnh đề định lượng phổ quát: phải có điều gì đó về bản chất của định lượng phổ quát. Với ví dụ về ba số nguyên tố, rõ ràng là Vinogradov không nghĩ rằng: “Làm thế nào để mình tìm được với tính chất này?” Thay vào đó, những gì ông nghĩ giống như: “Mình có một số nguyên rất lớn. Làm thế nào để chứng minh nó là tổng của ba số nguyên tố?” Nói cách khác, toàn bộ sự tập trung của ông là vào biến được định lượng phổ quát, với biến được định lượng tồn tại chỉ là một kiểu suy nghĩ bổ sung sau khi các chi tiết của chứng minh đã được hoàn thiện.

Nhìn chung, nhiều kết quả thú vị, khi được phát biểu một cách hình thức, bắt đầu bằng sự xen kẽ của hai hoặc ba (hoặc nhiều hơn) các lượng từ. Câu hỏi sau đó trở thành việc xác định đâu là biến được định lượng “thú vị” đầu tiên theo một nghĩa nào đó. Đây là một ví dụ khác để minh họa cho quan điểm này, từ lý thuyết các không gian định chuẩn hữu hạn chiều. Tôi sẽ đưa ra một vài chi tiết toán học cho những ai tò mò, nhưng nếu bạn không quan tâm đến chúng, bạn có thể bỏ qua ba đoạn tiếp theo và vẫn nắm được ý chính về ví dụ này.

Cho và là hai không gian định chuẩn -chiều và cho là một ánh xạ tuyến tính từ đến. Chúng ta nói rằng là một –đẳng cấu nếu tồn tại sao cho với mọi. Bằng cách thay đổi quy mô, chúng ta luôn có thể lấy bằng 1, trong trường hợp đó chúng ta có với mọi. Nếu, thì điều này cho chúng ta biết rằng là một đẳng cự. Nhìn chung, khoảng cách Banach-Mazur giữa và được định nghĩa là giá trị nhỏ nhất sao cho tồn tại một -đẳng cấu từ đến. Dễ dàng thấy rằng logarit của khoảng cách Banach-Mazur là một metric trên tập hợp các lớp đẳng cự của các không gian định chuẩn -chiều. Một sự thật ít hiển nhiên hơn, nhưng cũng không quá khó, là không gian metric thu được là compact: thực tế, nó được gọi là Banach-Mazur compactum.

Thật tự nhiên khi tự hỏi đường kính của Banach-Mazur compactum là bao nhiêu, và đây là lúc mọi thứ trở nên thú vị. Một kết quả của Fritz John phát biểu rằng mọi không gian -chiều có khoảng cách tối đa là từ. (Ý tưởng của chứng minh như sau: chọn bên trong hình cầu đơn vị của một ellipsoid -chiều có thể tích cực đại; đó là hình cầu đơn vị của một không gian định chuẩn đẳng cự với; có thể chứng minh rằng ánh xạ đồng nhất là một -đẳng cấu giữa và.) Từ định lý của Fritz John và bất đẳng thức tam giác (nhân tính), suy ra rằng đối với bất kỳ hai không gian định chuẩn -chiều nào. Nghĩa là, đường kính của Banach-Mazur compactum tối đa là. Nhưng liệu nó có thể nhỏ hơn đáng kể so với con số đó không?

Một dấu hiệu cho thấy câu trả lời không hiển nhiên đến từ việc xem xét các không gian và. Ánh xạ đồng nhất giữa hai không gian này là một -đẳng cấu, nhưng người ta có thể làm tốt hơn nhiều bằng cách ánh xạ các vectơ cơ sở chuẩn không phải vào chính chúng mà vào các đỉnh của hình lập phương đơn vị, với các đỉnh được chọn sao cho trực giao nhất có thể. Đặc biệt, nếu tồn tại một ma trận Hadamard, thì ánh xạ tuyến tính tương ứng là một -đẳng cấu. Người ta có thể đẩy mạnh quan sát này và suy ra rằng với bất kỳ, khoảng cách Banach-Mazur giữa và là. Cũng dễ dàng chứng minh rằng, vì vậy các không gian hầu như không cải thiện được cận dưới đơn giản, và không cải thiện được chút nào trong các chiều mà ma trận Hadamard tồn tại.

Năm 1981, Gluskin đã giải quyết bài toán một cách nổi tiếng bằng cách xác định tiệm cận chính xác cho đường kính của Banach-Mazur compactum. Một cách không chính thức, những gì ông chỉ ra là đường kính nằm trong một hằng số so với cận trên suy ra trực tiếp từ định lý của Fritz John. Nếu chúng ta làm cho phép định lượng trở nên rõ ràng, thì mệnh đề chúng ta thu được là

trong đó tôi đã viết cho tập hợp tất cả các không gian định chuẩn -chiều. (Nếu bạn muốn tranh luận rằng đó không phải là một tập hợp, thì hãy để tôi chỉ định thêm rằng không gian vectơ cơ sở là.) Nói một cách dễ hiểu, tồn tại một hằng số dương sao cho với mọi số nguyên dương, có các không gian định chuẩn -chiều và sao cho khoảng cách Banach-Mazur giữa và ít nhất là.

Tôi không thể tiếp tục mà không mô tả rất ngắn gọn ý tưởng tuyệt vời và có ảnh hưởng lớn mà Gluskin đã có để giải quyết bài toán này. Ông lấy và là các không gian định chuẩn có hình cầu đơn vị là các tập lồi đối xứng ngẫu nhiên được định nghĩa như sau: lấy các vectơ cơ sở chuẩn và một vài vectơ đơn vị ngẫu nhiên khác, cũng như các vectơ đối của tất cả các vectơ này, và lấy bao lồi của chúng. Gluskin sau đó đã chỉ ra rằng nếu hai không gian định chuẩn được chọn từ phân phối này, thì với xác suất cao, khoảng cách Banach-Mazur của chúng ít nhất là.

Nhưng quay lại điểm chính, đó là dạng logic của mệnh đề trên rất giống với dạng logic của định lý Vinogradov, đó là

trong đó tôi đã viết cho tập hợp các số nguyên tố. Tuy nhiên, kết quả của Vinogradov chắc chắn là một định lý, trong khi kết quả của Gluskin chắc chắn là một phản ví dụ, hoặc ít nhất là một ví dụ.

Sự khác biệt quan trọng giữa hai mệnh đề là gì? Có vẻ như trong định lý ba số nguyên tố của Vinogradov, số đóng một vai trò thiết yếu hơn trong mệnh đề cần được chứng minh về các biến được định lượng khác nhau. Trong định lý của Vinogradov, mệnh đề đó là, trong khi đối với định lý của Gluskin, mệnh đề cần chứng minh là

và,

mà chúng ta có thể viết tương đương là

và.

Trong trường hợp định lý của Vinogradov, toàn bộ thách thức là làm cho ba số nguyên tố đó cộng lại bằng, trong khi đối với Gluskin, việc làm cho các chiều của và bằng không hề khó khăn: thách thức là làm cho và cách xa nhau, so với chiều chung của chúng.

Có một sự phức tạp cần lưu ý ở đây, đó là thông qua quá trình được gọi là Skolemization, một mệnh đề được định lượng phổ quát dạng có thể được chuyển đổi thành một mệnh đề được định lượng tồn tại. (Để đây là một sự tương đương, người ta cần tiên đề chọn, nhưng đó chắc chắn là một điều kiện đủ.) Đây không chỉ là một thủ thuật logic, mà nó thường phản ánh khá chính xác cách chúng ta suy nghĩ về một số bài toán. Ví dụ, tự nhiên hơn khi coi ví dụ của Gluskin là một công thức để xây dựng (hoặc ít nhất là chứng minh sự tồn tại của) một cặp không gian định chuẩn phù hợp cho bất kỳ chiều nào, hay nói cách khác là xây dựng một hàm phù hợp từ đến các cặp không gian định chuẩn bằng cách đưa ra giá trị của nó tại mỗi, hơn là coi nó như một mệnh đề nói rằng mọi số nguyên dương đều có một tính chất phức tạp nào đó.

Một sự phức tạp khác là một số mệnh đề được định lượng phổ quát suy ra một cách tự nhiên từ các mệnh đề được định lượng tồn tại, hoặc thậm chí có thể tương đương với chúng. Ví dụ, định lý rằng một hình xuyến 2 chiều không đồng phôi với một mặt cầu 2 chiều là một mệnh đề được định lượng tồn tại (mọi ánh xạ từ hình xuyến đến mặt cầu đều không phải là một phép đồng phôi), nhưng cách tự nhiên để chứng minh nó là chứng minh mệnh đề tồn tại rằng có một bất biến phân biệt hai không gian này. Đối với một ví dụ về nơi một mệnh đề phổ quát tương đương với một mệnh đề tồn tại, hãy xem xét mệnh đề dạng rằng một vectơ không thuộc bao lồi của một tập compact nhất định. Mệnh đề rằng không có tổ hợp lồi nào của các phần tử của bằng tương đương với sự tồn tại của một phiếm hàm tuyến tính và một sao cho và với mọi. Trong cả hai trường hợp này, cảm giác tự nhiên là coi kết quả như một định lý được chứng minh thông qua một mệnh đề tồn tại, có lẽ vì chính định lý đó mới là điều cuối cùng chúng ta quan tâm. Nhưng việc sử dụng “điều chúng ta quan tâm” làm tiêu chí để xác định cái gì được coi là phản ví dụ có vẻ hơi mơ hồ, và dường như là một tiêu chí khó sử dụng nếu chúng ta muốn giải thích một cách thuyết phục tại sao AI lại giỏi tìm kiếm phản ví dụ.

Một lập luận tổng quát hơn chống lại quan điểm cho rằng có điều gì đó về các mệnh đề tồn tại đặc biệt phù hợp với AI là nhu cầu thiết lập các mệnh đề tồn tại bao trùm hầu hết các nghiên cứu toán học, bất kể bản chất của kết quả chính đang hướng tới là gì. Ví dụ, nếu tôi muốn chứng minh một mệnh đề bằng quy nạp, tôi có thể tìm cách củng cố mệnh đề đó để phục vụ tốt hơn như một giả thuyết quy nạp. Hoặc nếu tôi muốn chứng minh rằng mọi đối tượng thuộc loại có tính chất cũng có tính chất, thì tôi có thể tìm một tính chất suy ra từ và có thể được sử dụng để chứng minh. Đây là những bài toán tồn tại mang tính siêu toán học hơn, nhưng sự phân biệt có thể hơi mờ nhạt, và quan trọng hơn, khi cố gắng chứng minh một mệnh đề, thường thì câu hỏi chính trong tâm trí chúng ta ít là “Tại sao đúng?” mà nhiều hơn là “Một chứng minh của có thể như thế nào?” Để đưa ra một ví dụ, tôi cảm thấy mình hiểu khá rõ tại sao giả thuyết Goldbach đúng — một mô hình xác suất rất hợp lý về các số nguyên tố ngụ ý điều đó và khớp chặt chẽ với dữ liệu tính toán — nhưng nếu tôi thực hiện một nỗ lực nghiêm túc để chứng minh nó, sự hiểu biết đó, điều mà nhiều nhà toán học đã có trong khoảng một thế kỷ, sẽ có tác dụng hạn chế. Thay vào đó, nhiệm vụ chính của tôi là cố gắng tìm ra các kỹ thuật chứng minh đủ mạnh để làm cho những ý tưởng heuristic này trở nên chặt chẽ.

Sự khác biệt giữa một ví dụ và một phản ví dụ là gì?

Về mặt logic, mọi mệnh đề dạng là một phản ví dụ cho mệnh đề được định lượng phổ quát. Tuy nhiên, chúng ta không mô tả tất cả các mệnh đề tồn tại là phản ví dụ. Ví dụ, nếu tôi nói: “Các không gian với đều khả ly, cũng như, nhưng không khả ly,” tôi sẽ không mô tả phần thứ hai của khẳng định đó là một phản ví dụ cho tuyên bố rằng tất cả các không gian Banach đều khả ly. Thay vào đó, tôi sẽ trình bày nó như ví dụ cơ bản nhất về một không gian không khả ly. Điểm quan trọng dường như là không có lý do cụ thể nào để nghĩ rằng tất cả các không gian Banach sẽ khả ly, và việc tìm một ví dụ về một không gian không khả ly không quá khó.

Tôi nghĩ điểm đầu tiên quan trọng hơn ở đây: chúng ta có xu hướng gọi một đối tượng là phản ví dụ nếu sự tồn tại của đối tượng đó bác bỏ một mệnh đề mà chúng ta có lý do khá tốt để tin tưởng. Thường xảy ra trường hợp sau nhiều lần cố gắng chứng minh một mệnh đề không thành công, các nhà toán học bắt đầu cảm thấy rằng không có lý do cụ thể nào để nó đúng, ngay cả khi có vẻ khó để đưa ra một phản ví dụ cho nó. Trong tình huống như vậy, nếu một phản ví dụ cuối cùng được tìm thấy, nó có thể đã mất đi cảm giác “phản” của nó. Ấn tượng của tôi là việc xây dựng một nhóm không-sofic thuộc loại này. Đã có một vài đề xuất trong tài liệu về cách người ta có thể xây dựng một nhóm như vậy, và tôi không nghĩ có nhiều (hoặc thậm chí bất kỳ?) chuyên gia nào tin tưởng mạnh mẽ rằng tất cả các nhóm đều là sofic. Vì vậy, cảm giác tự nhiên hơn khi nói “OpenAI đã đưa ra ví dụ đầu tiên về một nhóm không-sofic” hơn là nói “OpenAI đã tìm thấy một phản ví dụ cho giả thuyết soficity” (mặc dù thực tế là phần đó trong bài báo của họ có tiêu đề “Một phản ví dụ cho giả thuyết soficity”).

Tương tự, đối với tôi, cận dưới mới cho các số Ramsey đa sắc giống một ví dụ hơn là một phản ví dụ. Tôi nghĩ khá nhiều người tin rằng cận đó nên là lũy thừa, vì vậy đối với họ đó là một phản ví dụ, nhưng những người khác, bao gồm cả tôi, trung lập hơn về điều đó. Trên thực tế, tôi đã từng làm việc với bài toán này trong quá khứ (từ rất lâu rồi) trong một công thức tương đương, hỏi rằng bạn cần bao nhiêu đồ thị không chứa tam giác trên đỉnh nếu bạn muốn hợp của chúng là đồ thị đầy đủ. Nếu bạn lấy các đồ thị lưỡng phân, thì dễ thấy rằng bạn cần chúng, nhưng cận đó có thể được cải thiện nếu thay vào đó bạn quan sát thấy rằng một đồ thị 5-phân đầy đủ có thể được viết dưới dạng hợp của hai đồ thị con không chứa tam giác, và do đó có thể viết đồ thị đầy đủ dưới dạng hợp của các đồ thị không chứa tam giác. Sau đó, người ta bị cám dỗ để cố gắng làm tốt hơn, với các đồ thị không chứa tam giác ít dày đặc hơn nhưng bù lại bằng số sắc (chromatic number) không bị chặn — một điều kiện cần nếu người ta muốn sử dụng một số lượng đồ thị dưới logarit, điều này tương đương với việc chứng minh một cận dưới siêu lũy thừa cho. Tất cả những điều này có nghĩa là khi tôi làm việc với bài toán này, nỗ lực của tôi tập trung vào hướng mà hóa ra là đúng, vì vậy đối với tôi, OpenAI đã tìm thấy một ví dụ về những gì tôi (hơi) mong đợi, thay vì một phản ví dụ.

Điều này đưa chúng ta đến đâu?

Tôi muốn tìm một lời giải thích mạch lạc cho sự kết hợp của các sự kiện sau đây.

Với những sự kiện này, có vẻ như khả năng của các LLM là một thứ khác, mà tình cờ dẫn đến kết quả là chúng giỏi giải quyết loại bài toán tồn tại mà chúng ta thường phân loại là yêu cầu tìm một ví dụ không tầm thường.

Hãy xem xét hai điều mà chúng ta có thể tin tưởng rằng các LLM giỏi. Một trong số đó là biết rất nhiều toán học: nếu một bài toán có thể được giải bằng một lập luận tương đối chuẩn, thì rất có khả năng một LLM sẽ có thể tìm và sử dụng lập luận đó. Điều còn lại là khả năng mà một LLM có được đơn giản nhờ là một máy tính: nó có thể làm việc với tốc độ cực lớn (ít nhất là so với con người) và do đó có thể đủ khả năng thực hiện một số lượng lớn các nỗ lực không thành công đối với một bài toán trước khi tìm ra lời giải.