Anthropic mở rộng khả năng bảo mật của Claude Mythos 5 và lập quỹ 35 triệu USD

Chúng tôi xin chia sẻ thông tin cập nhật về những nỗ lực nhằm giúp nhiều đội ngũ hơn sử dụng các năng lực tiên phong (frontier capabilities) cho mục đích phòng thủ mạng. Claude Mythos 5 hiện đã có mặt trong Claude Security và sắp tới sẽ được tích hợp vào các công cụ phòng thủ mạng của đối tác. Chúng tôi cũng đang khởi động một quỹ trị giá 35 triệu USD để hỗ trợ bảo mật phần mềm nguồn mở và chia sẻ kế hoạch mở rộng Chương trình Xác minh An ninh mạng (Cyber Verification Program).

Vào tháng 4, chúng tôi đã khởi động Project Glasswing nhằm đưa mô hình tiên phong mạnh mẽ nhất của mình là Claude Mythos Preview (và phiên bản kế nhiệm Claude Mythos 5) đến tay một nhóm nhỏ các tổ chức đang bảo vệ những phần mềm quan trọng nhất thế giới. Điều này giúp các chuyên gia phòng thủ có thêm thời gian để tìm kiếm và khắc phục các lỗ hổng trước khi các mô hình có năng lực tương tự được phổ biến rộng rãi hoặc rơi vào tay những kẻ xấu.

Mục tiêu của chúng tôi luôn là mở rộng khả năng phòng thủ cấp độ Mythos đến càng nhiều chuyên gia phòng thủ càng tốt một cách an toàn. Để làm được điều đó, chúng tôi đã và đang phát triển các bộ phân loại an toàn (safety classifiers) và các biện pháp bảo vệ cho phép mở rộng quyền truy cập vào các mô hình đẳng cấp Mythos mà không để các năng lực tấn công mạng của chúng bị lợi dụng. Claude Fable 5 là bước đi đầu tiên: nó giúp mô hình được phổ biến rộng rãi trong khi vẫn ngăn chặn các hoạt động mạng lưỡng dụng (dual-use).

Hôm nay, chúng tôi đang thực hiện những bước tiếp theo. Hành vi rủi ro nhất xảy ra khi người dùng có quyền truy cập trực tiếp vào mô hình, nơi kẻ xấu có thể cố gắng điều hướng nó vào các mục đích gây hại. Tuy nhiên, nếu người dùng chỉ nhận được các kết quả đầu ra cụ thể, chẳng hạn như bản vá cho một lỗ hổng hoặc cảnh báo bảo mật, thì rủi ro đó sẽ thấp hơn nhiều. Những thay đổi mà chúng tôi công bố giúp người dùng tiếp cận tốt hơn với các kết quả phòng thủ, đồng thời duy trì các rào cản bảo vệ phù hợp xung quanh việc truy cập trực tiếp vào mô hình:

Mục tiêu của chúng tôi vẫn là giúp các tổ chức thích nghi với tốc độ và nhu cầu của an ninh mạng khi các mô hình AI ngày càng trở nên mạnh mẽ hơn. Chúng tôi sẽ tiếp tục phát triển các biện pháp bảo vệ, chương trình truy cập và hỗ trợ cộng đồng để đưa các mô hình mạnh mẽ nhất của mình đến với đông đảo cá nhân và tổ chức một cách an toàn.

Tích hợp Mythos vào các công cụ phòng thủ mạng hiện có

Các đội ngũ bảo vệ bệnh viện, tiện ích công cộng, hệ thống tài chính và chuỗi cung ứng phần mềm hiện đã dựa vào một loạt các sản phẩm và dịch vụ cho các hoạt động bảo mật, ứng phó sự cố, tình báo mối đe dọa và kỹ thuật phát hiện. Cách nhanh nhất để cung cấp các năng lực tiên phong cho những chuyên gia phòng thủ này là tích hợp các mô hình đẳng cấp Mythos vào các công cụ mà họ đang vận hành.

Nhiều đối tác của chúng tôi đã xây dựng các sản phẩm an ninh mạng trên Claude Opus giúp các đội ngũ bảo mật phân loại cảnh báo, xác định mối đe dọa và khắc phục lỗ hổng nhanh hơn. Hiện chúng tôi đang làm việc với các đối tác này và nhiều đơn vị khác để tích hợp Claude Mythos 5 vào sản phẩm và dịch vụ của họ, giúp họ mang lại kết quả phòng thủ cấp độ Mythos cho khách hàng của mình.

Khi người dùng cuối sử dụng một trong những sản phẩm này, họ không tương tác trực tiếp với Mythos. Thay vào đó, họ làm việc thông qua một giao diện được thiết kế riêng, chạy Mythos ở chế độ nền cho một tác vụ xác định và chỉ nhận được kết quả cụ thể mà sản phẩm đó cung cấp. Ví dụ, một công cụ khắc phục lỗ hổng có thể cung cấp danh sách các bản vá đề xuất dưới dạng kết quả đầu ra. Kết quả này được tạo ra bởi Mythos, nhưng người dùng sẽ không có cách nào để yêu cầu mô hình, chẳng hạn như phát triển một mã khai thác (exploit) cho một lỗ hổng. Chúng tôi và các đối tác cũng có các biện pháp ngăn chặn lạm dụng để đảm bảo mô hình luôn nằm trong phạm vi dự kiến.

Chúng tôi vẫn đang ở giai đoạn đầu của công việc này và kỳ vọng nó sẽ mở rộng theo thời gian. Nếu bạn xây dựng các sản phẩm hoặc dịch vụ bảo mật và muốn mang Claude Mythos 5 đến với khách hàng của mình, bạn có thể đăng ký tại đây.

Cung cấp Claude Security với Claude Mythos 5 cho khách hàng doanh nghiệp

Kể từ hôm nay, các bản quét của Claude Security sẽ chạy trên Claude Mythos 5. Claude Security quét các cơ sở mã (codebase) để tìm lỗ hổng và đề xuất các bản vá để con người xem xét; tính năng này hiện đang trong giai đoạn thử nghiệm công khai (public beta) cho khách hàng Claude Enterprise, và các bản quét bằng Mythos 5 được tính phí theo mức sử dụng token tiêu chuẩn trong gói hiện tại của bạn, không phát sinh thêm chi phí bổ sung.

Quản trị viên doanh nghiệp có thể kích hoạt Claude Security trong bảng điều khiển quản trị. Từ claude.ai/security, người dùng có thể chọn một kho lưu trữ (repository) để quét bằng Claude Mythos 5. Sau đó, Claude sẽ quét cơ sở mã để tìm lỗ hổng và trả về từng kết quả kèm theo danh mục CWE (Common Weakness Enumeration), xếp hạng độ tin cậy và mức độ nghiêm trọng, cùng với bản sửa lỗi đề xuất.

Sau đó, người dùng có thể mở Claude Code trên web để thực hiện bản sửa lỗi. Việc vá lỗi tương tác sử dụng các mô hình mà tổ chức của bạn có quyền truy cập trong Claude Code. Bản thân việc quét bằng Mythos không mở rộng quyền truy cập Mythos sang các bề mặt khác. Mọi bản vá đều phải được con người xem xét và phê duyệt trước khi có thể triển khai.

Claude Security sử dụng Mythos 5 để quét mã của bạn và trả về các kết quả chi tiết thay vì kết quả thô, mà không làm lộ bản thân mô hình. Điều này có nghĩa là các chuyên gia phòng thủ có thể tiếp cận các năng lực của Claude Mythos 5 mà không để mô hình rơi vào tay những người có thể lạm dụng nó.

Để biết thêm về Claude Security, hãy xem hướng dẫn bắt đầu của chúng tôi.

Ra mắt Quỹ Defender Advantage để bảo mật phần mềm nguồn mở

Một số chương trình được sử dụng rộng rãi nhất thế giới chạy trên phần mềm nguồn mở. Tuy nhiên, các dự án này thường được duy trì bởi các tình nguyện viên hoặc tổ chức phi lợi nhuận, những người có thể thiếu nguồn lực hoặc nhân sự để bảo vệ toàn diện dự án của họ trước các cuộc tấn công. Thông qua Project Glasswing, chúng tôi đã quyên góp trực tiếp 4 triệu USD cho các tổ chức bảo mật nguồn mở, cung cấp tín dụng cho các quỹ bảo mật nguồn mở trong chương trình, hỗ trợ quét và vá các dự án được sử dụng rộng rãi, cũng như hỗ trợ các nỗ lực khắc phục lỗ hổng phối hợp như Akrites và Gold Eagle.

Quỹ Defender Advantage mới của chúng tôi (0xDAF) tiếp nối công việc đó với 35 triệu USD tín dụng Claude dành cho các tổ chức hỗ trợ những người duy trì nguồn mở bảo mật phần mềm của họ. Các khoản tài trợ sẽ tập trung vào ba lĩnh vực: vá các lỗ hổng trực tiếp trong các dự án được sử dụng rộng rãi, tự động hóa việc quét và vá lỗi theo cách mà các dự án khác có thể sao chép, và giúp các dự án theo đuổi các phương pháp bảo mật tham vọng hơn để chống lại toàn bộ các loại hình tấn công.

Chúng tôi đang bắt đầu với một số lượng nhỏ các khoản tài trợ thí điểm lớn hơn để tìm hiểu những gì hiệu quả và có khả năng mở rộng tốt nhất. Chúng tôi sẽ chia sẻ thông tin chi tiết về những đơn vị nhận tài trợ ban đầu trong những tuần tới.

Mở rộng Chương trình Xác minh An ninh mạng (Cyber Verification Program)

Cho đến nay, Chương trình Xác minh An ninh mạng của chúng tôi đã cung cấp cho các tổ chức quyền truy cập vào các năng lực lưỡng dụng khi sử dụng các mô hình Claude Opus và Sonnet. Các tổ chức tham gia chương trình được giảm bớt các biện pháp bảo vệ, giúp giảm thiểu gián đoạn cho các đội ngũ được chấp thuận đang thực hiện công việc an ninh mạng hợp pháp trên các hệ thống mà họ được ủy quyền bảo vệ.

Trong những tuần tới, chúng tôi sẽ phát triển chương trình để mở rộng quyền truy cập có kiểm soát vào Claude Mythos. Là một phần của quá trình này, quyền truy cập vào các năng lực phòng thủ như phân loại và xác thực lỗ hổng sẽ được mở rộng sang các mô hình đẳng cấp Mythos, và các chuyên gia phòng thủ mạng sẽ thấy các hạn chế được giảm bớt trên các mô hình đẳng cấp Claude Opus và Sonnet. Ngoài ra, chúng tôi tiếp tục mở rộng quyền truy cập vào Claude Mythos thông qua Project Glasswing với sự hợp tác của các đối tác trong Chính phủ Hoa Kỳ, tập trung vào những người bảo vệ cơ sở hạ tầng quan trọng đáp ứng các yêu cầu kiểm soát an ninh nghiêm ngặt.

Chúng tôi sẽ chia sẻ thêm thông tin chi tiết về việc mở rộng Chương trình Xác minh An ninh mạng trong những tuần tới. Trong thời gian chờ đợi, chúng tôi khuyến khích tất cả các đội ngũ bảo mật đang thực hiện công việc an ninh mạng hợp pháp hãy đăng ký tham gia chương trình để được giảm bớt các biện pháp bảo vệ trên các mô hình Claude Opus và Sonnet. Nếu bạn đã đăng ký và được chấp thuận, bạn không cần thực hiện thêm hành động nào; chúng tôi sẽ liên hệ để cập nhật thông tin.

Tiếp theo là gì

Những sáng kiến này là sự tiếp nối các nỗ lực của chúng tôi nhằm đưa các năng lực phòng thủ của các mô hình tiên phong đến với nhiều người và tổ chức hơn, đồng thời hỗ trợ cộng đồng nguồn mở trong việc củng cố các dự án của họ trước các cuộc tấn công. Chúng tôi sẽ tiếp tục làm việc với các đối tác chính phủ, các tổ chức, những người duy trì nguồn mở và toàn ngành để xây dựng cơ sở hạ tầng mạng kiên cường mà các mô hình AI mạnh mẽ ngày nay đòi hỏi.