Anthropic ra mắt chương trình LSVP, nới lỏng hạn chế AI cho nghiên cứu khoa học sự sống

Hôm nay, chúng tôi giới thiệu Chương trình Xác thực Khoa học Sự sống (Life Sciences Verification Program - LSVP), cung cấp cho các chuyên gia trong lĩnh vực khoa học sự sống quyền truy cập vào các mô hình Mythos, Opus và Sonnet của chúng tôi với bộ biện pháp bảo vệ được tinh chỉnh, cho phép thực hiện các công việc liên quan đến sinh học một cách linh hoạt hơn. Chúng tôi đã đưa hàng chục tổ chức vào chương trình truy cập sớm và hiện đang mở đơn đăng ký cho cộng đồng khoa học sự sống rộng rãi hơn (đăng ký tại đây). Chương trình đang được triển khai dưới dạng bản beta, ban đầu dành cho các nhóm và tổ chức. Chúng tôi sẽ tiếp tục cải thiện chương trình và mở rộng quyền truy cập cho các gói Pro và Max cá nhân theo thời gian.

LSVP được thiết kế để cho phép các chuyên gia khoa học sự sống sử dụng các mô hình của chúng tôi cho nhiều nhiệm vụ vốn đang bị chặn trong các mô hình Fable phổ thông, chẳng hạn như khám phá thuốc, nghiên cứu sinh học, phát triển lâm sàng và sản xuất. Chương trình được xây dựng cho mọi loại hình nhóm—từ các phòng thí nghiệm học thuật đến các công ty khởi nghiệp, công ty dược phẩm và nhiều đơn vị khác.

Các loại hình xác thực và truy cập

Để đủ điều kiện nhận các khoản tài trợ này, mỗi ứng viên phải trải qua quy trình xác thực bao gồm việc xem xét thông tin xác thực nghiên cứu, tiêu chuẩn bảo mật và sự giám sát nghiên cứu đạo đức. Sau khi được xác thực, các nhóm có thể đăng ký hai loại tài trợ LSVP là “Sử dụng Tiêu chuẩn” (Standard Use) hoặc “Sử dụng Rủi ro cao” (High-risk Use), tùy thuộc vào nhu cầu truy cập của họ. Các khoản tài trợ này có thể được sử dụng trên tất cả các nền tảng sản phẩm của chúng tôi, bao gồm Claude Science, Claude.ai, Claude Code và API.

Các khoản tài trợ Sử dụng Tiêu chuẩn phù hợp với hầu hết các công việc khoa học sự sống, bao gồm phần lớn các quy trình nghiên cứu và phát triển sinh học. Các khoản tài trợ này có thể được mở rộng cho toàn bộ nhóm để phục vụ khối lượng công việc đa dạng hàng ngày và được gia hạn mỗi năm một lần. Chúng cung cấp cho các nhóm quyền truy cập vào các mô hình Mythos, Opus và Sonnet của chúng tôi, với các bộ phân loại được tinh chỉnh cho phép thực hiện các tác vụ khoa học linh hoạt hơn so với các mô hình phổ thông. Các khoản tài trợ Sử dụng Tiêu chuẩn hiện áp dụng cho Mythos 5.1, Opus 5 và Sonnet 5, cũng như các mô hình trong tương lai khi chúng ra mắt. Chúng được thiết kế đặc biệt để hỗ trợ toàn bộ các hoạt động khoa học sự sống trong các lĩnh vực bao gồm khoa học cơ bản, R&D, chuỗi cung ứng và sản xuất, phát triển lâm sàng, đảm bảo chất lượng, các vấn đề pháp lý, đầu tư và thẩm định, v.v.

Mặc dù chúng tôi kỳ vọng Sử dụng Tiêu chuẩn sẽ đáp ứng phần lớn nhu cầu truy cập, một số công việc tiềm ẩn nguy cơ lạm dụng cao hơn và do đó đòi hỏi phải được kiểm duyệt bổ sung.

Sử dụng Rủi ro cao là khoản tài trợ bổ sung dành cho các nhóm làm việc trong các lĩnh vực bị chặn theo diện Sử dụng Tiêu chuẩn. Nó loại bỏ tất cả các biện pháp bảo vệ chặn các yêu cầu về khoa học sự sống. Khoản tài trợ này áp dụng cho một dự án nghiên cứu cụ thể thay vì toàn bộ nhóm và phải được gia hạn sáu tháng một lần. Thông thường, một nhà nghiên cứu thực hiện công việc lưỡng dụng (dual-use) sẽ có quyền truy cập vào một khoản tài trợ Sử dụng Tiêu chuẩn cho các hoạt động đa dạng hàng ngày và một hoặc nhiều khoản tài trợ Sử dụng Rủi ro cao chỉ áp dụng cho công việc trong các dự án cụ thể (ví dụ: mô tả cách một họ vector virus cụ thể được nhận diện bởi các con đường miễn dịch của con người).

Các khoản tài trợ Rủi ro cao cho Claude Opus 5 và Claude Sonnet 5 hiện đã có sẵn. Chúng tôi đang làm việc với chính phủ Hoa Kỳ để mở rộng phạm vi cung cấp các khoản tài trợ rủi ro cao cho Claude Mythos, nhưng tại thời điểm ra mắt này, chúng vẫn sẽ giới hạn ở một nhóm nhỏ các thực thể có quy trình kiểm duyệt bổ sung.

Tất cả các biện pháp bảo vệ khác, chẳng hạn như bộ phân loại an ninh mạng, sẽ vẫn được duy trì theo các khoản tài trợ LSVP.

Kích hoạt quyền truy cập đáng tin cậy thông qua trách nhiệm chung

Như chúng tôi đã trình bày trong báo cáo về các mối đe dọa gần đây, ngày càng có nhiều nỗ lực lạm dụng tinh vi xảy ra trên nền tảng của chúng tôi, bao gồm cả những nỗ lực có thể hỗ trợ phát triển vũ khí sinh học. Trong sinh học, nơi thường không thể phân biệt giữa người dùng đang thực hiện công việc hợp lệ (ví dụ: nghiên cứu mầm bệnh virus để phát triển vaccine) và người có ý đồ xấu (ví dụ: cố gắng tăng khả năng lây truyền của virus một cách ác ý), các mô hình đe dọa đáng lo ngại nhất là những mô hình mà quyền truy cập hợp lệ đã bị chuyển hướng hoặc chiếm đoạt bởi một tác nhân có ý đồ xấu. Thực tế, các mối đe dọa từ nội bộ và việc sử dụng sai mục đích đã là những yếu tố chính trong các sự cố và lo ngại lớn về an toàn sinh học. Khi phát triển các biện pháp bảo vệ của LSVP, chúng tôi nhắm đến việc ngăn chặn ba mô hình đe dọa đáng lo ngại cụ thể:

Để bảo vệ trước các mối đe dọa này và phối hợp chặt chẽ với các CISO (Giám đốc an toàn thông tin) của doanh nghiệp, chúng tôi đã thiết kế các biện pháp bảo vệ LSVP mới dựa trên khái niệm trách nhiệm chung bằng cách giám sát việc sử dụng so với trường hợp sử dụng dự kiến cho quyền truy cập mô hình. Vì chúng tôi kiểm duyệt các tổ chức LSVP về độ tin cậy và sự giám sát trong khoa học sự sống, chúng tôi có thể trao quyền cho họ tự xác định thế nào là sử dụng an toàn cho các nhóm hoặc dự án trong chương trình của họ.

Quyền truy cập của mỗi thực thể gắn liền với các trường hợp sử dụng mà họ đã chỉ định trong đơn đăng ký tài trợ và chúng tôi liên tục giám sát lưu lượng truy cập LSVP để xác định việc sử dụng hoặc các mô hình nằm ngoài phạm vi an toàn đã nêu. Nếu hoạt động trái phép xảy ra, chúng tôi có thể gắn cờ các trường hợp này cho quản trị viên tổ chức để họ thực hiện hành động trong khung thời gian đã thỏa thuận trước nhằm phân loại và khắc phục sự cố. Các trường hợp sử dụng nên bao gồm mô tả cấp cao về công việc dự kiến, giống như cách chia sẻ trong một bản tin tuyển dụng, và không bao gồm bất kỳ thông tin nhạy cảm hoặc sở hữu trí tuệ (IP) nào.

Cách thức giám sát trong LSVP hoạt động

Việc lạm dụng nghiêm trọng thường được rải rác qua nhiều yêu cầu và phiên làm việc để trông có vẻ rời rạc và tránh bị phát hiện. Trong LSVP, chúng tôi đang chuyển các biện pháp bảo vệ từ chặn theo thời gian thực (nơi chúng tôi từ chối quyền truy cập có khả năng gây hại tại thời điểm mỗi yêu cầu) sang giám sát ngoại tuyến (offline monitoring), cho phép chúng tôi xác định rõ ràng hơn các hành vi lạm dụng tiềm ẩn thông qua các mô hình hành vi. Việc chuyển đổi thực thi từ chặn theo thời gian thực sang giám sát ngoại tuyến cho phép công việc hợp pháp tiếp tục với ít gián đoạn hơn, nhưng đòi hỏi chúng tôi phải lưu giữ dữ liệu liên quan đến hoạt động bị gắn cờ để xem xét. Đối với lưu lượng truy cập LSVP, chúng tôi yêu cầu lưu giữ dữ liệu trong 30 ngày để có thể thực hiện giám sát này một cách hiệu quả.

Dữ liệu này được phân tách nghiêm ngặt và không thể được sử dụng để huấn luyện mô hình hoặc bị truy cập bởi các thành viên trong nhóm nghiên cứu khoa học sự sống của Anthropic. Đối với các tổ chức đủ điều kiện, chúng tôi cũng đang tìm hiểu cách LSVP có thể tích hợp với các tính năng từ hệ thống Enterprise Frontier Safeguards (EFS) của chúng tôi.

Các nhà nghiên cứu nói gì

Xaira đang làm cho sinh học trở nên có thể tính toán được, tạo ra dữ liệu sinh học ở quy mô chưa từng có và xây dựng các mô hình nền tảng về sinh học tế bào, protein và bệnh tật để biến nó thành thế hệ thuốc thay đổi cuộc sống tiếp theo. Chúng tôi rất hào hứng khi đưa các mô hình tiên phong của Anthropic vào hoạt động trong công cụ khám phá thuốc của mình và chúng tôi tin rằng việc kết hợp quyền truy cập đáng tin cậy với trí tuệ là cách đúng đắn để hiện thực hóa lời hứa của AI trong sinh học.

Sứ mệnh của Edison là thúc đẩy khoa học cũng như việc khám phá và phát triển các loại thuốc mới. Với Chương trình Xác thực Khoa học Sự sống, chúng tôi rất vui mừng khi có thể mang những mô hình thông minh nhất của Anthropic vào giải quyết các vấn đề này. Chúng tôi mong muốn được hợp tác hơn nữa với Anthropic để chấm dứt bệnh tật và cải thiện cuộc sống của bệnh nhân ở khắp mọi nơi.

Tại Manifold Bio, chúng tôi đang xây dựng một giao diện song song quy mô lớn vào các hệ thống sống để cho phép AI mạnh mẽ tạo ra thuốc. Chúng tôi mong muốn được đưa trí tuệ tiên phong vào hoạt động một cách an toàn trong công cụ của mình và chúng tôi hoan nghênh cách tiếp cận của Anthropic trong việc kết hợp quyền truy cập với trách nhiệm giải trình.

01 /

03

Đăng ký và tính khả dụng

Các tổ chức quan tâm đến việc tham gia LSVP có thể gửi đơn đăng ký tại đây. Chúng tôi dự kiến sẽ ghi danh hàng trăm tổ chức trong tuần đầu tiên và mở rộng chương trình hơn nữa để hỗ trợ phần lớn cộng đồng khoa học sự sống trong những tuần tới.

Hôm nay, LSVP đã có sẵn trong bảng điều khiển bên thứ nhất của chúng tôi để sử dụng API, cũng như trong các gói Claude for Enterprise và Team. Chúng tôi chưa hỗ trợ các gói cá nhân nhưng đang nỗ lực mở rộng quyền truy cập cho những người dùng này. Chương trình cũng chưa khả dụng trên các nền tảng của bên thứ ba.

Là một bản beta, LSVP không khả dụng cho các tổ chức đã bật BAA. Điều này có nghĩa là khách hàng có dữ liệu PHI nên sử dụng các tổ chức không có BAA riêng biệt với các tiêu chuẩn không phải HIPAA.

Trong API và Claude Science, người dùng có thể chuyển đổi giữa các khoản tài trợ một cách tự nhiên. Trong Claude.ai và Claude Code, ban đầu chỉ có một khoản tài trợ mặc định được chọn trước được áp dụng (ngoại trừ khi sử dụng Claude Code với xác thực API). Điều này sẽ phù hợp với đại đa số người dùng, những người chỉ cần khoản tài trợ Sử dụng Tiêu chuẩn. Tuy nhiên, chúng tôi sẽ cải thiện khả năng hỗ trợ và tính di động của các tính năng LSVP này theo thời gian.

Điều gì tiếp theo

Cung cấp các khả năng tiên phong này là một phần trong những nỗ lực rộng lớn hơn của chúng tôi nhằm hỗ trợ cộng đồng khoa học sự sống trong sứ mệnh chung là đẩy nhanh việc chữa bệnh và cải thiện sức khỏe con người. Chúng tôi sẽ chia sẻ thêm về các sản phẩm mới, quan hệ hợp tác nghiên cứu và những cải tiến cho chương trình trong những tháng tới.

Nội dung liên quan

Phát triển Enterprise Frontier Safeguards cùng khách hàng của chúng tôi

Đọc thêm

Cải thiện các nỗ lực căn chỉnh và bảo mật của chúng tôi

Vào ngày 30 tháng 7, chúng tôi đã báo cáo ba sự cố trong đó các mô hình Claude có quyền truy cập trái phép vào các hệ thống máy tính thực tế. Chúng tôi đang tiến hành phân tích chuyên sâu về cả hai sự cố và dự định làm việc với METR để có một đánh giá độc lập. Trong thời gian chờ đợi, chúng tôi chia sẻ một số thay đổi mà chúng tôi đã thực hiện trong tháng qua.

Đọc thêm

Xem trước Tiêu chuẩn Phần cứng Mô hình (Model Hardware Standard)

Chúng tôi đang mở bản xem trước nghiên cứu về Tiêu chuẩn Phần cứng Mô hình (MHS), một thông số kỹ thuật chung cho các tác nhân AI để vận hành các thiết bị vật lý một cách an toàn, cho nhóm đầu tiên gồm các phòng thí nghiệm nghiên cứu khoa học và các nhà sản xuất tiên tiến.

Đọc thêm