Import AI (Jack Clark)
85

Nghiên cứu

Import AI 470: Quyền của máy móc, tự động hóa môi trường với SPADE và tối ưu hóa nhân GPU cùng Hawkeye

(giờ Việt Nam)

Tóm tắt AI

Bản tin tuần này phân tích nghiên cứu từ METR về tốc độ phát triển của AI, đồng thời giới thiệu kỹ thuật tạo môi trường tự động SPADE và công cụ Hawkeye giúp tối ưu hóa hiệu suất nhân GPU.

Bản dịch AI

Import AI 470: No rights for machines; automating environment generation with SPADE; and building better GPU kernels with Hawkeye

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. Import AI vận hành nhờ arXiv, những tách cappuccino và phản hồi từ độc giả. Nếu bạn muốn ủng hộ bản tin này, vui lòng đăng ký theo dõi.

Đăng ký ngay

AI đang thúc đẩy một số loại hình tiến bộ nhưng không phải tất cả:…Một nghiên cứu thú vị từ METR đã chỉ ra nơi nào sự tăng tốc đang xuất hiện…Dưới đây là một phân tích nhỏ từ METR xem xét việc AI có thể đang thúc đẩy các loại hình khoa học và công nghệ khác nhau như thế nào. Nghiên cứu xem xét ba lĩnh vực: an ninh mạng (cyber), toán học và nghiên cứu AI, và nhận thấy rằng AI đã đóng góp rất nhiều cho an ninh mạng, một chút cho toán học, và khó có thể khẳng định đối với chính nghiên cứu AI.

Các mô hình ngôn ngữ lớn (LLM) thực sự đã tạo ra sự khác biệt ở đâu trong khám phá khoa học?

Các lỗ hổng an ninh mạng: Sự tăng tốc đáng kể. “Tỷ lệ lỗ hổng được báo cáo trên nhiều dự án đã tăng tốc đáng kể trong năm 2026 so với năm 2025, đối với cả các dự án cụ thể (cURL, OpenSSL, Firefox và Microsoft) lẫn các cơ sở dữ liệu lỗ hổng tổng hợp (US NVD và OSV)”.

Nghiên cứu toán học: Tăng tốc nhỏ, nhưng khó đo lường. “AI rõ ràng đang góp phần vào việc thực hiện nhiều công việc hơn (số lượng bài nộp trên arXiv đã tăng gấp đôi ở một số lĩnh vực trong vòng chưa đầy 12 tháng) nhưng việc định lượng giá trị của những đóng góp đó là rất khó khăn.” Một số bài toán toán học từ các danh sách uy tín đã được giải quyết, ví dụ: “giả thuyết Jacobian từ danh sách của Smale, Bài toán 44 từ danh sách của Green (sàng halving), và nửa sofic của Bài toán 100 của Green”. Tuy nhiên, có lẽ còn quá sớm để xác định đây là một xu hướng bền vững đến mức nào.

Tối ưu hóa nghiên cứu AI: Không có sự tăng tốc đáng kể nào có thể đo lường được. Khi nhìn vào tiến bộ thuật toán trên bảy lĩnh vực vấn đề quan trọng (CIFAR-10, Hutter compression, Gurobi mixed-integer programming, MIPLIB, nanoGPT, Stockfish và số mũ nhân ma trận), có một vài lĩnh vực đã có những đóng góp từ LLM (nanoGPT, CIFAR-10), mặc dù tốc độ gia tăng sử dụng AI ở đây thấp hơn nhiều so với an ninh mạng và toán học.

Tại sao điều này quan trọng – sự tăng tốc khác biệt: Bài báo này làm nổi bật cách AI đang tạo ra những tiến bộ trong một số lĩnh vực khoa học và công nghệ, nhưng hiệu quả không đồng nhất giữa các lĩnh vực, thay vào đó là những "túi" tăng tốc cục bộ (ví dụ: an ninh mạng) và những lĩnh vực mà tiến bộ diễn ra dần dần hơn (toán học, AI). Tôi nghi ngờ rằng sự tăng tốc xảy ra khi các mô hình trải qua một loại thay đổi pha không thể diễn tả được đối với một kỹ năng nhất định, như đã thấy rõ với việc lập trình hàng ngày (2025) và an ninh mạng (2026). Câu hỏi then chốt là liệu chúng ta có thấy những thay đổi pha tương tự ở các lĩnh vực khoa học và công nghệ khác hay không. Đọc thêm: Research note: Have We Seen an Acceleration in Discoveries? (METR).

***

Tự động hóa việc tạo môi trường với SPADE:…Một dạng thô sơ của việc tự khởi động (bootstrapping) RSI thông qua việc tăng độ rộng dữ liệu…Một nhóm các nhà nghiên cứu từ nhiều trường đại học đã xây dựng SPADE (Self-Play in Adaptive Synthetic Executable Environments). SPADE là một “khung tổng quát cho việc đồng tiến hóa tổng hợp môi trường và khả năng tác nhân thông qua tự chơi (self-play)”, hoạt động như một cách để tạo dữ liệu tổng hợp dưới dạng các môi trường giống trò chơi, nơi các LLM sau đó có thể được huấn luyện. Điều này cho phép các nhà phát triển sử dụng một mô hình mạnh mẽ để tự khởi động việc tạo ra dữ liệu, sau đó dữ liệu này lại được dùng để tinh chỉnh chính mô hình đó.

Ai đã thực hiện: SPADE được phát triển bởi các nhà nghiên cứu từ Đại học Washington, Đại học Stanford, Đại học Northeastern, Đại học Carnegie Mellon, Viện Công nghệ Massachusetts (MIT), Đại học Quốc gia Singapore, Đại học Quốc gia Seoul, Viện Công nghệ Stevens và Đại học Chicago.

Cách thức hoạt động: SPADE yêu cầu một LLM luân phiên giữa việc tạo ra các môi trường huấn luyện có thể thực thi (ví dụ: các câu đố yêu cầu hệ thống giải quyết một vấn đề di truyền mô phỏng trong phòng thí nghiệm sinh học) và việc để một LLM cố gắng giải chúng. SPADE có hai vai trò chính cho mô hình được sử dụng:

Thiết kế môi trường (Environment Designer): viết các môi trường huấn luyện hoàn chỉnh, dài hạn dưới dạng mã thực thi.

Tác nhân suy luận (Reasoning Agent): học cách hành động trong các môi trường đó. Phần thưởng cho tác nhân suy luận được ước tính bằng cách sử dụng khoảng cách giữa phần thưởng của nó khi có và không có các gợi ý đặc quyền (privileged hints). Một gợi ý đặc quyền (h) là “thông tin liên quan đến nhiệm vụ mà Thiết kế môi trường đính kèm vào một môi trường (ví dụ: bản phác thảo giải pháp một phần hoặc một quan sát cấu trúc quan trọng); việc tiết lộ h cho Tác nhân suy luận giúp môi trường dễ giải hơn, và khoảng cách trong lợi nhuận của Tác nhân suy luận khi có so với không có h xác định phần thưởng hối tiếc dựa trên gợi ý của Thiết kế môi trường”.

Hoạt động ở quy mô 30B: Các tác giả huấn luyện ba khung Qwen3 để thử nghiệm SPADE: Qwen3-4B-Instruct-2507, Qwen3-8B và Qwen3-30B-A3B-Instruct-2507. Không ngạc nhiên khi Qwen3-30B hoạt động tốt nhất. Mỗi mô hình được tinh chỉnh qua GRPO cho 400 lần chạy, mỗi lần gồm 25 môi trường, sau đó được đánh giá dựa trên nhiều tiêu chuẩn bao gồm AIME, GPQA, LCB và các môi trường trong Reasoning Gym. Họ tạo ra hai loại môi trường – môi trường trò chơi và môi trường sử dụng công cụ. SPADE cải thiện hiệu suất trên cả hai. Đối với trò chơi, “ở mức 30B-A3B, SPADE đạt mức trung bình 58.3: +8.1 so với cơ sở và +5.3 so với đường cơ sở môi trường cố định mạnh nhất”. Đối với công cụ, họ thấy sự thúc đẩy đáng kể tương tự: “công thức tương tự áp dụng cho thiết kế môi trường sử dụng công cụ cải thiện mọi khung mô hình”.

Tại sao điều này quan trọng – một phần của RSI: Đây về cơ bản là một dạng tạo dữ liệu tổng hợp cao cấp, cho phép các nhà nghiên cứu sử dụng bất kỳ mô hình mạnh mẽ nào họ có trong tay để tạo ra một tập hợp môi trường huấn luyện đa dạng hơn cho một mô hình khác học tập. Tôi nghi ngờ rằng bạn có thể liên tục thay đổi mô hình mạnh mẽ (ví dụ: chuyển đổi giữa các mô hình tiên phong khác nhau từ các công ty khác nhau) để tăng sự đa dạng cho việc tạo môi trường của mình. Loại kỹ thuật này giúp việc xây dựng các bộ dữ liệu lớn, rộng để huấn luyện mô hình trở nên rẻ hơn nhiều. Tuy nhiên, như các tác giả lưu ý, nó không cho phép các mô hình tự khởi động vượt xa khả năng tưởng tượng của mô hình cơ sở được sử dụng để tạo môi trường. “Bằng cách biểu diễn các môi trường dưới dạng các chương trình Python với giao diện kiểu Gym, khung này hợp nhất suy luận đơn lượt và các tác vụ tác nhân đa lượt, đồng thời biến thiết kế môi trường thành một thành phần có thể học được, được huấn luyện bằng RL trong quá trình hậu huấn luyện, cho phép tự cải thiện mở liên tục,” họ viết. Đọc thêm: SPADE: Self-Play in Adaptive Synthetic Executable Environments (arXiv). Lấy mã tại đây, bao gồm cả các checkpoint mô hình: SPADE (spade-rl, GitHub).

***

Xây dựng các nhân (kernel) GPU tốt hơn với Hawkeye:…Các bài kiểm tra đơn vị (unit test) được ghi chép kỹ lưỡng có thể thúc đẩy hiệu suất của các tác nhân viết nhân…Các nhà nghiên cứu tại Harvard, Stanford, Together AI và Caltech đã xây dựng Hawkeye, một phần mềm giúp các tác nhân dễ dàng học cách viết các nhân được tối ưu hóa tốt cho các loại phần cứng GPU cụ thể. Các hệ thống như Hawkeye rất quan trọng vì chúng về cơ bản là những công cụ mà các hệ thống AI có thể sử dụng để tăng hiệu suất của chính chúng trong các tác vụ liên quan đến R&D AI, như tối ưu hóa hiệu suất của một hệ thống AI nhất định trên một phần cứng nhất định. Mục tiêu của dự án là trả lời câu hỏi “làm thế nào chúng ta có thể làm cho các tác nhân lập trình nhận biết phần cứng với sự can thiệp tối thiểu của chuyên gia?”

Hawkeye là “một khung mã nguồn mở đặt nền tảng cho việc tạo nhân tự động trong một phân loại tối thiểu và toàn diện”, các nhà nghiên cứu viết. Nó “chứng minh rằng các tác nhân lập trình được giám sát tối thiểu có thể khai thác các tính năng phần cứng đặc thù của kiến trúc và giảm chi phí hỗ trợ các bộ tăng tốc phần cứng mới nổi”. Đóng góp chính của Hawkeye là nó “giới thiệu một phân loại các bài kiểm tra đơn vị có thể khái quát hóa, tối thiểu và toàn diện, cho phép các tác nhân lập trình mở rộng quy mô tính toán tại thời điểm kiểm tra hiệu quả hơn và tạo ra các nhân nhận biết phần cứng”. Nói cách khác, nó cơ bản được cung cấp như một tập hợp thông tin được quản lý kỹ lưỡng về các nền tảng phần cứng khác nhau và các chiến lược tối ưu hóa để sử dụng trên chúng, được đóng gói dưới dạng các bài kiểm tra đơn vị. “Mỗi bài kiểm tra đơn vị là sự trừu tượng tối thiểu kết hợp một nhân giải pháp do con người viết với chỉ số đo lường xác minh sự tối ưu hóa đó. Nhân giải pháp được bao bọc như một hàm có thể gọi với hướng dẫn sử dụng ngắn gọn để tác nhân có thể đọc nó như một ví dụ cú pháp, gọi trực tiếp hoặc kết hợp các đoạn mã thành một nhân lớn hơn,” họ viết.

Kết quả – giúp các tác nhân AI viết các nhân tốt, ngay cả đối với phần cứng mới hơn và ít được hiểu rõ hơn: “Chúng tôi đánh giá Hawkeye trên việc chuyển đổi các khối lượng công việc PyTorch sang các nhân hiệu suất cao trên NVIDIA Ampere, Hopper, Blackwell và AMD MI350, và trên các độ chính xác BF16, FP8, NVFP4 và MXFP4,” họ viết. “Trên các khối lượng công việc đã được thiết lập, nơi torch.compile phân phối đến các thư viện nhà cung cấp được tinh chỉnh bởi chuyên gia như cuBLAS, cuDNN và FlashAttention, Hawkeye khớp hoặc vượt qua nó ở cả BF16 và độ chính xác thấp, bao gồm cả các định dạng mà PyTorch không thể chạy nguyên bản. Trên các biến thể attention mới nổi nơi torch.compile không thể hợp nhất các quét và cổng không chuẩn, Hawkeye đạt tốc độ nhanh hơn 18.9 lần so với các nhân Triton do chuyên gia viết từ thư viện Flash Linear Attention, Hawkeye tiếp cận hoặc vượt qua FLA trên Linear Attention trên mọi kiến trúc, bao gồm 1.22 lần trên Blackwell và 1.00 lần trên MI350”. Họ cũng nhận thấy, khá dễ đoán, rằng “việc mở rộng quy mô tính toán tại thời điểm kiểm tra với Hawkeye tạo ra các nhân có hiệu suất cao nhất trên các kiến trúc”.

Tại sao điều này quan trọng – với một chút gợi mở, các hệ thống AI có thể vượt qua những con người giỏi nhất: Các bài báo như thế này cho thấy cách chỉ với một chút kiến thức được con người tuyển chọn, các hệ thống AI có thể học cách khớp và vượt qua những phần công việc phức tạp và được tối ưu hóa cao của con người, như các nhân. Bài học ở đây là chúng ta, với tư cách là một loài, có thể viết một loạt các hệ thống hỗ trợ chuẩn vàng, như Hawkeye, và sau đó máy móc sẽ sử dụng điều này để tự khởi động vượt xa khả năng của chính chúng ta. Đọc thêm: Hawkeye: Hardware-Aware GPU Kernel Optimization with Minimal Supervision (alphaxiv).

***

Nhà nghiên cứu AI lo sợ về những tác động từ sự thành công của nghiên cứu AI:…Thật không vui khi sự thành công của một ngành khoa học lại mở ra một "hộp Pandora" về triết học, nhưng đó chính là ý nghĩa của AI…Julian Togelius, một nhà nghiên cứu AI mà công việc của ông đã được tôi đề cập nhiều lần trong những năm qua, gần đây đã viết một bài đăng về một “cuộc khủng hoảng niềm tin” mà ông gặp phải vào năm 2025 về nghiên cứu AI và một bài luận ông viết năm đó mà giờ đây ông đang công khai. Cụ thể, ông lo lắng về việc những tác động của sự thành công trong nghiên cứu AI có thể có ý nghĩa gì đối với ý nghĩa của con người. “Tôi đôi khi thức dậy lúc 3 giờ sáng, tim đập thình thịch, vì nỗi sợ hãi về một tương lai nơi tài năng, kiến thức và thậm chí cả thiên tài của con người không còn quan trọng nữa,” ông viết. “Khả năng công nghệ lớn hơn của chúng ta có thể dẫn chúng ta đến một thế giới nơi chúng ta không còn có thể tạo ra sự khác biệt, và việc chúng ta hiểu biết thêm cũng chẳng có ý nghĩa gì. Có lẽ chúng ta có được sự dư thừa, nhưng với cái giá là sự thừa thãi.”

Tại sao điều này quan trọng – AI là một công nghệ chính trị-xã hội ảnh hưởng đến toàn thế giới: Togelius không đơn độc – nhiều nhà nghiên cứu AI khác đã vật lộn với những điều tương tự, đáng chú ý nhất là những người đoạt giải Turing như Geoffrey Hinton và Yoshua Bengio, cả hai đều đã chuyển hướng sự nghiệp của họ trong những năm gần đây từ nghiên cứu sang vận động chính sách công về những tác động to lớn sắp tới của AI. Bản thân tôi cũng đã trải qua một phiên bản của điều này và đã viết quan điểm của riêng mình, “Technological Optimism and Appropriate Fear” (Import AI #431) vào năm ngoái. Làm sao tôi có thể không làm vậy? Những tác động của việc thành công trong nghiên cứu AI không phải là một câu chuyện mặc định hạnh phúc, mà là một câu chuyện nơi chúng ta mở ra cho chính mình một "hộp Pandora" triết học khổng lồ về mục đích của cuộc sống và ý nghĩa của việc sống trong một thế giới nơi các nhu cầu cơ bản đã được giải quyết (và đó là giả định rằng chúng ta giải quyết được các vấn đề căn chỉnh cực kỳ đáng sợ và không hề đơn giản). Tôi hoan nghênh Julian Togelius vì đã viết bài luận cá nhân sâu sắc này và tôi khuyến khích những người khác làm điều tương tự. Đọc thêm: Losing my religion (Togelius, blog).

***

Chúng ta có nên trao quyền cho AI? Nhà nghiên cứu AI này nghĩ là tuyệt đối không:…Nhà nghiên cứu AI bác bỏ quan điểm trao quyền cho các hệ thống AI…Liệu các hệ thống AI có nên được trao quyền vào một ngày nào đó? Đó là một ý tưởng mà các nhà nghiên cứu đang bắt đầu vật lộn. Một số người nghĩ rằng trao quyền cho máy móc là một cách tốt hơn để tích hợp chúng vào thế giới của chúng ta (ví dụ: AI Rights for Human Flourishing, Import AI #421). Taylor Belrose, một nhà nghiên cứu AI, đã xuất bản một bài đăng dài, trong đó họ trình bày chi tiết lý do tại sao họ nghĩ rằng việc trao quyền cho các hệ thống AI là một ý tưởng thực sự tồi tệ. “Nếu chúng ta bắt đầu đối xử với AI như con người, xã hội sẽ bị dẫn vào một con dốc trơn trượt dẫn đến sự thay thế hoàn toàn con người bằng trí tuệ nhân tạo,” họ viết. “Với việc AI đảm nhận những công việc nhàm chán, cuộc sống trong thế giới vật chất có thể rất thú vị trong tương lai. Nhưng tương lai tươi sáng này sẽ đòi hỏi phải giữ AI trong tầm kiểm soát, và sẽ rất khó để giữ AI trong tầm kiểm soát nếu chúng ta cố gắng trao tư cách cá nhân cho một số AI, trong khi vẫn giữ những AI khác như những công cụ hoặc người hầu đơn thuần.”

Sự bất khả thi của ý thức AI: Một điểm mấu chốt ở đây, đối với họ, là ý tưởng rằng các hệ thống AI không thể có ý thức và do đó không xứng đáng có quyền. “AI không bao giờ có thể phát triển ý thức, cảm giác hoặc trạng thái đạo đức, bất kể nó trở nên thông minh đến mức nào, và bất kể nó mô phỏng hành vi con người thuyết phục đến đâu,” họ viết. “Chúng ta chảy như những dòng sông, trong khi máy tính tích tắc như những chiếc đồng hồ… Đối với chúng ta, mũi tên thời gian tiến về phía trước một cách không thể lay chuyển. Đó là tất cả những gì về cuộc sống và ý thức… các cơ chế có thể lập trình không thể có ý thức, bất kể chúng có vẻ thông minh đến đâu, trong khi các hệ thống tự tổ chức tự trị thì có thể.”

Sự khác biệt giữa máy móc và thực thể sinh học: Rất nhiều lập luận của họ cho điều này xoay quanh ý tưởng rằng các hệ thống được xây dựng trên một nền tảng tính toán không thể có ý thức, hoặc ít nhất là không có ý thức theo cách mà một số dạng sống sinh học có. Hãy xem xét thí nghiệm tư duy về việc xây dựng một thực thể có ý thức bên trong máy tính và điều này có thể vi phạm một số đặc tính được cho là thuộc về các thực thể sinh học có ý thức như thế nào: Nó sẽ không phải là duy nhất (bạn có thể phát lại cùng những trải nghiệm), nó sẽ không phải là riêng tư (bạn có thể đóng băng chương trình và tháo rời nó), nó sẽ không phải là không thể diễn tả (bạn có thể mô tả trạng thái một cách hoàn hảo), và nó sẽ không phải là định tính (có thể định lượng nó). “Tóm lại, nó sẽ là hình ảnh phản chiếu của ý thức như chúng ta biết”.

Năm đặc tính của não bộ khiến việc tách biệt phần mềm khỏi phần cứng trở nên khó khăn:

Các neuron bắn tín hiệu không đồng bộ; phản ứng phụ thuộc vào động lực học tế bào bên trong và thời gian của các đầu vào, trong khi máy tính bị ràng buộc bởi tín hiệu đồng hồ trung tâm.

Não bộ sử dụng các hóa chất để gửi các thông điệp mờ (fuzzy), trong khi máy tính sử dụng các tín hiệu nhị phân chính xác để giao tiếp.

Chức năng thần kinh nhạy cảm với các điều kiện như nhiệt độ và lưu lượng máu, trong khi máy tính được chế tạo để hoạt động giống nhau bất kể nhiệt độ hay tải trọng (trong một số giới hạn nhất định).

Trong não bộ hữu cơ, tính toán và bộ nhớ được trộn lẫn với nhau, trong khi máy tính được thiết kế với các vùng riêng biệt cho tính toán và lưu trữ.

Neuron không phải là những tế bào quan trọng duy nhất trong não (ví dụ: các yếu tố quan trọng khác như tế bào thần kinh đệm - Glia), trong khi máy tính chủ yếu sử dụng các bóng bán dẫn được cách ly khỏi các ảnh hưởng bên ngoài.

Tại sao điều này quan trọng – công việc cuối cùng cho tất cả chúng ta là triết học: Tôi cảm thấy vô cùng bối rối về các vấn đề ý thức AI và quyền AI. Tôi nghi ngờ nhiều người cũng cảm thấy như vậy. Có một niềm vui đặc biệt khi đọc một bài viết như thế này, nơi bạn được thấy một con người đã vật lộn với cùng một câu hỏi, đọc rộng và sâu, và trở nên cực kỳ có chính kiến, tất cả đều nhằm mục đích giảm bớt sự bối rối của chính họ về một vấn đề quan trọng đối với họ. Liệu các kết luận có đúng hay không thì nằm ngoài khả năng của tôi vào lúc này, nhưng tôi nghi ngờ rằng hành động suy nghĩ về những thứ này sắp trở thành một công việc và một thú tiêu khiển cho hàng trăm nghìn và cuối cùng là hàng triệu người. Khi các hệ thống AI tiếp tục tiến bộ và phát triển để chạm đến ngày càng nhiều lĩnh vực của nền kinh tế, có lẽ công việc cuối cùng cho tất cả chúng ta sẽ là triết học về những gì chúng ta nghĩ về những gì đang xảy ra và các cách tiếp cận quy phạm, pháp lý và các cách tiếp cận khác phù hợp của chúng ta đối với nó là gì. “Sự thay đổi về giá trị khi chuyển từ một thế giới do con người thống trị sang một thế giới do AI thống trị sẽ kịch tính hơn nhiều so với sự thay đổi giá trị mà chúng ta thấy khi chuyển từ kỷ nguyên hái lượm sang kỷ nguyên nông nghiệp, hoặc từ kỷ nguyên nông nghiệp sang kỷ nguyên công nghiệp,” họ viết. Đọc thêm: AIs are not people (Taylor Belrose, Substack).

***

DeepMind cải thiện biên giới của phép nhân ma trận với AlphaEvolve:…AI tiếp tục thúc đẩy các biên giới của khoa học…Các nhà nghiên cứu tại Google DeepMind, Đại học Carnegie Mellon, Đại học Columbia và MIT đã cải thiện số mũ nhân ma trận thông qua một số đổi mới của con người, cũng như việc sử dụng AlphaEvolve (Import AI #413), một hệ thống dựa trên LLM đa năng mà Google sử dụng để tạo ra các tiến bộ một cách thông minh trong các lĩnh vực như lập trình, toán học và một số phần của khoa học.

Những gì họ đã làm, cụ thể: Các nhà nghiên cứu “tận dụng những tiến bộ gần đây trong học máy và các lĩnh vực lân cận để giải quyết vấn đề tối ưu hóa không lồi của phân tích mất mát kết hợp bằng cách sử dụng phương pháp giảm độ dốc; chỉ riêng điều này đã cải thiện giới hạn SOTA trước đó thêm ≈ 0.97 × 10^−4”, họ viết. Trên hết, họ “sử dụng AlphaEvolve để cải thiện thuật toán tối ưu hóa của chúng tôi; điều này nâng mức cải thiện so với SOTA lên ≈ 1.62 × 10^−4”. Cách AlphaEvolve hoạt động: “Chúng tôi để AlphaEvolve sửa đổi chương trình tối ưu hóa, sau đó được thực thi (mất khoảng 5 giờ trên một GPU đơn lẻ) để đưa ra giới hạn về omega. AlphaEvolve sau đó phát triển mã để giảm thiểu omega. Chúng tôi tìm thấy kết quả cải thiện bằng cách sử dụng tính năng “xây dựng tiến hóa” của AlphaEvolve, nơi thuật toán tối ưu hóa ở mỗi thế hệ bắt đầu tại điểm giải pháp tốt nhất được tìm thấy bởi thuật toán cha mẹ.”

Một tiến bộ khoa học, không liên quan đến huấn luyện AI: Một số loại nhân ma trận được sử dụng trong huấn luyện AI, nhưng không phải loại chính xác được thảo luận ở đây. Thay vào đó, đây là một bằng chứng cho thấy các hệ thống AI hiện có thể giúp các nhà nghiên cứu giải quyết các vấn đề khoa học tiên phong một cách hữu ích, bao gồm cả những vấn đề chủ yếu hữu ích theo nghĩa lý thuyết như vấn đề này. Tuy nhiên, cách họ giải quyết vấn đề này có thể khái quát hóa – họ lấy một vấn đề, làm cho nó có thể vi phân và chạy nó trên GPU, sau đó họ chuyển kết quả đầu ra đó cho AlphaEvolve và yêu cầu nó thực hiện thêm công việc để cải thiện hơn nữa công việc của các nhà nghiên cứu. “Mặc dù những cải tiến khiêm tốn hơn có thể đạt được theo cách này, việc đạt được những cải tiến lớn hơn đối với omega có thể đòi hỏi những ý tưởng toán học mới và là một lĩnh vực nghiên cứu thú vị,” họ viết. Đọc thêm: Improving the matrix multiplication exponent with modern optimization and AlphaEvolve (arXiv).

Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Import AI (Jack Clark). Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.