Anthropic dùng Claude phát hiện lỗ hổng mật mã học, giảm một nửa độ mạnh khóa HAWK

Tóm tắt

Sử dụng Claude Mythos Preview, các nhà nghiên cứu tại Anthropic đã phát hiện ra những cách thức cải tiến để tấn công các thuật toán mật mã (các phương pháp toán học được sử dụng để giữ kín dữ liệu trực tuyến). Cuộc tấn công đầu tiên làm suy yếu đáng kể HAWK, một lược đồ chữ ký số được xây dựng cho thế giới hậu lượng tử. Cuộc tấn công thứ hai xác định một cách thức mới để tấn công AES rút gọn vòng (round-reduced AES), loại mật mã đối xứng được sử dụng rộng rãi nhất hiện nay. Đây là những tiến bộ nghiên cứu đáng kể, nhưng hiện tại chúng không ảnh hưởng đến bất kỳ hệ thống thực tế nào. Bài viết này mô tả chi tiết cả hai phát hiện và thảo luận về những tác động đối với mật mã học trong kỷ nguyên của các mô hình AI mạnh mẽ.

Giới thiệu

Khi ra mắt Claude Mythos Preview, chúng tôi đã chứng minh rằng nó có khả năng tự động tìm kiếm và khai thác các lỗ hổng trong hầu hết mọi phần mềm mà chúng tôi hướng tới. Điều này bao gồm một số thư viện mật mã quan trọng—các tập hợp mã nguồn dùng chung được sử dụng để mã hóa dữ liệu.

Các lỗ hổng mà Claude tìm thấy trong các thư viện mật mã này1 là do việc triển khai thuật toán không chính xác—tức là những sai sót trong cách lập trình viên sử dụng thuật toán trong mã nguồn của họ, tạo cơ hội cho kẻ tấn công phá vỡ mã hóa.

Giờ đây, chúng tôi nhận thấy rằng Claude có khả năng tìm ra các lỗ hổng toán học ngay trong chính các thuật toán đó.

Các thuật toán mật mã là nền tảng cơ bản của an ninh kỹ thuật số. Ví dụ, khi bạn truy cập một trang web như https://www.anthropic.com, trình duyệt của bạn sẽ kiểm tra xem nó có đang giao tiếp với một trang web xác thực hay không bằng cách sử dụng một thuật toán gọi là lược đồ chữ ký số. Sau đó, lưu lượng truy cập giữa bạn và trang web được mã hóa bằng các mật mã đối xứng—các mã cho phép truyền dữ liệu an toàn giữa các bên chia sẻ cùng một khóa. Nếu không có các hệ thống mật mã an toàn như vậy, email, ngân hàng trực tuyến và các hoạt động internet khác của bạn sẽ bị phơi bày trước tội phạm mạng, những kẻ có thể chặn hoặc sửa đổi thông tin liên lạc của bạn. Các lỗ hổng trong những hệ thống mật mã được sử dụng rộng rãi này có thể gây rủi ro cho dữ liệu của hàng tỷ người dùng.

Kết quả đầu tiên mà chúng tôi mô tả trong bài viết này, được phát hiện bằng Claude Mythos Preview, là một cuộc tấn công cải tiến nhắm vào lược đồ chữ ký số có tên là HAWK. Năm 2022, Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) của Chính phủ Hoa Kỳ đã kêu gọi đề xuất các hệ thống mật mã bổ sung có khả năng duy trì tính bảo mật ngay cả trước máy tính lượng tử (vốn có thể phá vỡ hầu hết các lược đồ chữ ký hiện nay nếu được phát triển). HAWK là một trong những ứng viên vòng ba đang được xem xét từ lời kêu gọi này. Mặc dù HAWK đã vượt qua hai vòng đánh giá của chuyên gia con người trong khoảng thời gian hai năm, Mythos đã có thể cải thiện cuộc tấn công tốt nhất được biết đến nhắm vào nó chỉ trong 60 giờ làm việc—về cơ bản làm giảm một nửa độ mạnh của khóa.

Kết quả thứ hai liên quan đến Tiêu chuẩn Mã hóa Nâng cao (AES), một loại mật mã đối xứng được NIST thông qua vào năm 2001 và đã nhận được sự giám sát kỹ lưỡng hơn hầu hết mọi thuật toán mã hóa khác. Để hiểu rõ hơn về độ bền của AES, các biến thể yếu hơn của thuật toán thường xuyên được nghiên cứu trong lĩnh vực mật mã học; Mythos đã tìm ra cách phá vỡ một phiên bản yếu hơn như vậy và loại bỏ một trong những dự đoán mà kẻ tấn công cần thực hiện, giúp cải thiện tốc độ của các cuộc tấn công tốt nhất trước đó từ 200-800 lần.

Cần làm rõ rằng, không kết quả nào trong số này có tác động thực tế đến các hệ thống máy tính hiện nay; không có phần mềm thực tế nào phải thay đổi do kết quả này. HAWK chỉ là một lược đồ chữ ký ứng viên nên chưa được triển khai;2 cuộc tấn công thứ hai của chúng tôi nhắm vào một phiên bản rút gọn của AES và không phá vỡ được toàn bộ mật mã.3

Tuy nhiên, cả hai kết quả đều cho thấy tiềm năng của các mô hình AI tiên phong trong việc giúp phát hiện các lỗ hổng trong các thuật toán mật mã quan trọng, cả trước và sau khi triển khai thực tế. Đây chính là cách nghiên cứu mật mã học vận hành: kiểm tra áp lực các thuật toán để xây dựng niềm tin và cuối cùng là làm cho các hệ thống trở nên an toàn hơn.

Mythos Preview đạt được những kết quả này chủ yếu một cách tự động và hầu như không có sự can thiệp của con người. Trong suốt một tuần, một nhà nghiên cứu của Anthropic đã làm việc cùng với Claude để phát triển cuộc tấn công HAWK, và một nhà nghiên cứu khác đã xây dựng một khung hỗ trợ4 cho phép Claude tự động khám phá cuộc tấn công AES.5 Mỗi kết quả tiêu tốn khoảng 100.000 USD chi phí API để phát triển. Sau khi thấy những kết quả này, chúng tôi đã mở rộng phạm vi tìm kiếm và bắt đầu phát hiện ra các cuộc tấn công khác. Chúng tôi thảo luận về một số kết quả tiếp theo này dưới đây.

Để giúp những người khác dễ dàng tiếp tục nghiên cứu khả năng phân tích mật mã của các LLM, chúng tôi đã hợp tác với các học giả tại ETH Zurich, Đại học Tel Aviv và Đại học Haifa để xây dựng CryptanalysisBench, một bộ tiêu chuẩn tập hợp nhiều loại mật mã và giúp người khác dễ dàng đánh giá khả năng của các LLM về chủ đề quan trọng này.

Trong suốt quá trình nghiên cứu, chúng tôi đã tuân thủ các quy trình công bố có trách nhiệm và tham khảo ý kiến các học giả để xác nhận tính hợp lệ của các phát hiện. Chúng tôi cũng đã chia sẻ các bản sao trước cho chính phủ Hoa Kỳ và các đối tác trong ngành, đồng thời tổ chức các cuộc thảo luận về ý nghĩa của nghiên cứu này. Đối với phát hiện về HAWK, chúng tôi đã chia sẻ cuộc tấn công của mình với các tác giả của HAWK vào tháng 6 và phối hợp công bố lên danh sách gửi thư công khai của NIST cùng thời điểm kết quả của chúng tôi được công bố.

Trong phần còn lại của bài viết, chúng tôi tóm tắt hai phát hiện này với chi tiết kỹ thuật sâu hơn và mô tả ngắn gọn một số kết quả mật mã học gần đây khác của chúng tôi. Các mô tả đầy đủ về hai phát hiện chính được cung cấp trong hai bài báo mới, và chúng tôi hy vọng sẽ sớm công bố chi tiết về các phát hiện khác trong tương lai gần.

Một cuộc tấn công khôi phục khóa cải tiến trên HAWK

Làm việc với Mythos Preview, một nhà nghiên cứu của Anthropic đã phát triển một cuộc tấn công nhắm vào lược đồ chữ ký số hậu lượng tử HAWK. Cuộc tấn công này đẩy nhanh đáng kể thời gian cần thiết để phá vỡ lược đồ chữ ký—nói một cách kỹ thuật hơn, nó làm giảm "kích thước khóa hiệu dụng" xuống một nửa. Trong bài báo của mình, chúng tôi cung cấp đầy đủ chi tiết kỹ thuật về kết quả của mình, bao gồm mã minh họa cho thấy cuộc tấn công đang chạy.

HAWK là một trong những ứng viên vòng ba còn lại của lời kêu gọi bổ sung Chữ ký số của NIST. Cuộc thi này là một phần của nỗ lực kéo dài gần một thập kỷ nhằm tiêu chuẩn hóa các lược đồ Mật mã Hậu lượng tử (PQC) mới. Nỗ lực tiêu chuẩn hóa này đang trở nên quan trọng khi thời điểm xây dựng một máy tính lượng tử có khả năng giải mã đang đến gần và đe dọa các hệ thống mật mã cổ điển như RSA hoặc ECDSA.

Tính bảo mật của HAWK dựa trên độ khó của một bài toán toán học gọi là Bài toán Đẳng cấu Mạng (Lattice Isomorphism Problem). Cuộc tấn công của Mythos hoạt động bằng cách tìm ra một tính đối xứng cụ thể, chưa từng được khai thác trước đây, gọi là tự đẳng cấu không tầm thường (nontrivial automorphism) trong mạng lưới được HAWK sử dụng. Các nghiên cứu trước đây đã chứng minh rằng việc tìm ra một tự đẳng cấu như vậy một cách hiệu quả sẽ cho phép thực hiện một cuộc tấn công, nhưng không trả lời được liệu tự đẳng cấu đó có thể truy cập được trong mạng lưới mà HAWK sử dụng hay không. Tự đẳng cấu do Mythos phát hiện cho phép thực hiện một cuộc tấn công liệt kê nhanh hơn, mặc dù vẫn là hàm mũ, nhưng điều đó có nghĩa là người ta cần tăng gấp đôi kích thước khóa HAWK để đạt được cùng mức độ bảo mật. Thật không may, việc tăng gấp đôi kích thước khóa của HAWK loại bỏ nhiều lý do khiến lược đồ này (như hiện tại) trở thành một ứng viên chữ ký PQC hấp dẫn.

Quá trình khám phá

Để tìm ra cuộc tấn công, Claude Mythos Preview đã làm việc bán tự động trong một khung tác nhân (agentic harness), với sự hướng dẫn không thường xuyên của con người và các chỉ dẫn phi kỹ thuật. Mythos đã tìm ra cuộc tấn công sau khi thực hiện đánh giá tài liệu sâu rộng để hiểu về trạng thái kỹ thuật hiện tại, cùng với các lập luận toán học và thí nghiệm tính toán đáng kể. Sau khi tìm thấy cuộc tấn công, Mythos đã triển khai một quy trình xác minh từ đầu đến cuối để thuyết phục chính nó—và người vận hành là con người—về tính chính xác của cuộc tấn công.

Đối với thí nghiệm này, chúng tôi đã sử dụng một khung hỗ trợ giống như Claude Code, hỗ trợ nhiều tác nhân làm việc cộng tác với nhau trong một môi trường cô lập (sandboxed), có quyền truy cập vào các công cụ tính toán như Python và Sage cũng như các công trình mật mã học đã được công bố. Người vận hành là con người có nền tảng về khoa học máy tính lý thuyết nhưng không phải là chuyên gia về mật mã học dựa trên mạng lưới. Phần lớn thời gian, các tác nhân Mythos làm việc độc lập, và sự đóng góp của con người chỉ giới hạn ở việc quản lý dự án như tư vấn cho Mythos cách theo dõi các ý tưởng hoặc thư viện nào nên sử dụng để xác minh tính toán.

Quy trình làm việc đa tác nhân đã dẫn đến những động lực thú vị. Ví dụ, ý tưởng chính để tạo ra cuộc tấn công này được phát hiện bởi một cặp tác nhân làm việc cùng nhau. Cả hai bắt đầu nghiên cứu ý tưởng; tác nhân thứ nhất đã vội vàng bác bỏ ý tưởng vì cho rằng không khả thi, nhưng tác nhân thứ hai đã tìm ra cách khai thác triệt để nó. Cặp đôi này liên tục trao đổi tin nhắn và cuối cùng cả hai đều đồng ý rằng họ đã tìm ra một cuộc tấn công hiệu quả.

Việc tìm kiếm, phát triển và xác minh cuộc tấn công mất tổng cộng khoảng 60 giờ. Chúng tôi ước tính rằng toàn bộ quá trình khám phá cuộc tấn công tiêu tốn khoảng 100.000 USD chi phí API.

Tác động

Tác động tức thời từ phát hiện của Mythos là các kích thước khóa được đề xuất trong hồ sơ HAWK yếu hơn đáng kể so với gợi ý ban đầu. Ví dụ, chi phí dự kiến cho một cuộc tấn công khôi phục khóa hoàn toàn nhắm vào kích thước HAWK-256 nhỏ được cho là 264 nhưng đã được Mythos chứng minh là 238. Đối với các khóa lớn hơn, HAWK do đó vẫn không thực tế để tấn công. Nghĩa là: cuộc tấn công này là một cuộc tấn công thời gian hàm mũ nhanh hơn so với những gì đã biết trước đây đối với HAWK, và không chạy trong thời gian đa thức. Nó chỉ dành riêng cho HAWK và không ảnh hưởng đến các ứng viên chữ ký hậu lượng tử khác của NIST hoặc mật mã học dựa trên mạng lưới nói chung.

Các đề xuất của NIST được chia sẻ công khai với mục đích cho phép đông đảo khán giả xem xét để tìm ra các lỗ hổng trước khi chúng được triển khai sử dụng. Một phát hiện quan trọng vào giai đoạn cuối của quá trình không phải là điều chưa từng xảy ra: trong quá trình NIST tiêu chuẩn hóa ML-KEM và ML-DSA, một số đề xuất cạnh tranh đã được chứng minh là không an toàn. Một ứng viên, SIKE, đã được phát hiện là bị phá vỡ hoàn toàn trong một giờ trên một chiếc máy tính xách tay.

Chúng tôi tin rằng việc xem xét các thông số kỹ thuật như HAWK bằng AI sẽ là một công cụ mạnh mẽ trong việc phát triển các tiêu chuẩn mật mã mới. Chúng tôi kỳ vọng các nhà thiết kế mật mã được trang bị các mô hình có năng lực cao sẽ liên tục cải thiện các tiêu chuẩn bảo mật internet cho tất cả người dùng. Xa hơn trong tương lai, chúng tôi hy vọng AI sẽ đóng một vai trò quan trọng trong việc thiết kế thế hệ tiếp theo của các lược đồ mật mã mạnh mẽ và kiên cường hơn.

Một cuộc tấn công cải tiến trên AES rút gọn vòng

Trong kết quả thứ hai của chúng tôi, Mythos Preview đã cải thiện một cuộc tấn công vào một biến thể "rút gọn vòng" đơn giản hơn của Tiêu chuẩn Mã hóa Nâng cao (AES) được tạo ra vào năm 2001 như một phần của cuộc thi NIST trước đó.

AES mã hóa dữ liệu đầu vào bằng cách áp dụng lặp đi lặp lại cùng một hàm vòng nhiều lần. AES-128, loại mật mã cụ thể mà chúng tôi tấn công, có 10 vòng. Cuộc tấn công của chúng tôi chỉ hoạt động trên một phiên bản sửa đổi của mật mã có 7 trong tổng số 10 vòng. Các học giả thường xuyên nghiên cứu các loại mật mã rút gọn vòng để hiểu sâu hơn về các kỹ thuật tấn công có thể, trong tương lai, khái quát hóa cho toàn bộ mật mã, và để giúp ước tính mức độ bảo mật của toàn bộ mật mã bằng cách nghiên cứu các bài toán con đơn giản hơn.

Cuộc tấn công hoạt động theo mô hình đe dọa văn bản rõ được chọn (chosen plaintext threat model), đây là giả định phổ biến nhất được sử dụng để nghiên cứu các loại mật mã như AES. Theo mô hình đe dọa này, chúng tôi giả định rằng kẻ tấn công có thể yêu cầu người bảo vệ mã hóa các đầu vào tùy ý với một khóa cố định, không xác định, và sau đó được xem kết quả đầu ra tương ứng. Kẻ tấn công có thể thực hiện các yêu cầu mã hóa này nhiều lần và có thể thực hiện nhiều yêu cầu như vậy. Nghiên cứu trước đây mà chúng tôi dựa vào giả định rằng kẻ tấn công có thể yêu cầu mã hóa 2105 văn bản rõ được chọn. Do đó, cuộc tấn công này hoàn toàn không thực tế, nhưng nó định lượng chi phí tấn công nhắm vào AES theo các giả định này.

Mythos đã có thể phát triển một cuộc tấn công cải tiến, mở rộng một chuỗi dài các bài báo nghiên cứu đều nhằm mục đích tìm ra cuộc tấn công tốt nhất vào AES 7 vòng bằng cách sử dụng một kỹ thuật tương tự được gọi là tấn công gặp nhau ở giữa (meet-in-the-middle attack). Ở cấp độ rất cao, các cuộc tấn công này hoạt động bằng cách đánh đổi thời gian lấy không gian. Bằng cách lưu trữ các tính toán trung gian và sau đó tái sử dụng các tính toán này, có thể giảm đáng kể thời gian chạy của các cuộc tấn công với cái giá phải trả là xây dựng một bảng tra cứu lớn.

Mythos đã cải tiến cuộc tấn công gặp nhau ở giữa mạnh nhất trước đó bằng cách phát triển một thuật toán lấy dấu vân tay (fingerprinting algorithm) tinh vi hơn mà nó gọi là Möbius Bridge. Mục tiêu của thuật toán lấy dấu vân tay là tăng số lượng các tra cứu tiềm năng vào bảng thành công. Một trong những giai đoạn của cuộc tấn công từ nghiên cứu trước đây phải liệt kê 256 giá trị khác nhau và sau đó tra cứu chúng trong bảng đã tính toán trước. Mythos đã phát triển một dấu vân tay bất biến với dự đoán này, giúp giảm trực tiếp khối lượng công việc cần thiết xuống 256 lần. Nhưng điều này đi kèm với một cái giá: việc tính toán phép biến đổi tốn kém hơn về mặt tính toán; để giải quyết vấn đề này, Mythos đã khám phá ra một số kỹ thuật tối ưu hóa khác dẫn đến một cuộc tấn công nhanh hơn từ 200 đến 800 lần, tùy thuộc vào các kỹ thuật chính xác được sử dụng để đo thời gian chạy.

Bài báo kỹ thuật của chúng tôi chứa đầy đủ chi tiết về phương pháp tấn công và phân tích về tính chính xác cũng như thời gian chạy của nó. So với một tuần mà Mythos dành để hình thành ý tưởng, phần lớn thời gian của các nhà nghiên cứu con người được dành để xác thực tính chính xác của các tuyên bố của nó (mặc dù cần lưu ý rằng các nhà nghiên cứu không phải là chuyên gia về mật mã học).

Khám phá

Mythos Preview đã khám phá ra kết quả này gần như hoàn toàn tự động. Một nhà nghiên cứu tại Anthropic đã xây dựng một khung hỗ trợ cho phép Claude đưa ra các giả thuyết, chạy các thí nghiệm để xác thực hoặc bác bỏ các giả thuyết này bằng thực nghiệm, và sau đó yêu cầu Claude thiết kế một cuộc tấn công cải tiến so với phương pháp phân tích mật mã tốt nhất của AES.

Ban đầu, Claude không tham gia vào vấn đề này vì nó cho rằng không thể cải thiện việc phân tích mật mã của AES. Kết quả của những lần chạy đầu tiên của chúng tôi kết thúc với việc Claude viết các thông điệp như:

Hoặc: