Google DeepMind và nỗ lực xây dựng lá chắn an ninh sinh học bằng AI

Google DeepMind và Isomorphic Labs đã vạch ra một chương trình an ninh sinh học (bioresilience) nhằm ngăn chặn việc lạm dụng AI trong lĩnh vực sinh học, đồng thời hỗ trợ công tác ứng phó với dịch bệnh.

Hai tổ chức này đã công bố bản cập nhật về một sáng kiến chung được bắt đầu một cách âm thầm, đến nay đã xây dựng được hơn 15 quan hệ đối tác với các cơ quan chính phủ, tổ chức an ninh sinh học và các nhóm nghiên cứu trong vòng 12 tháng qua.

Thông tin này được đưa ra kèm theo một vấn đề định hình cụ thể. Các mô hình tiên phong (frontier models) như Gemini đang sở hữu sự hiểu biết ngày càng chi tiết về sinh học, và DeepMind thừa nhận rằng việc kết hợp các hệ thống này với các mô hình sinh học chuyên biệt, các tác nhân (agents) như nền tảng Antigravity của họ và các cơ sở dữ liệu của bên thứ ba sẽ chỉ làm tăng cường khả năng đó hơn nữa.

Tuy nhiên, chính kiến thức giúp nhà nghiên cứu lập bản đồ mục tiêu vắc-xin về nguyên tắc cũng có thể giúp một đối tượng xấu lấp đầy những lỗ hổng trong hiểu biết của chính họ. DeepMind và Isomorphic mô tả đây là một nhiệm vụ kép: thúc đẩy những tiến bộ khoa học mà AI tiên phong có thể thực hiện, đồng thời ngăn chặn những công cụ đó rơi vào tay những người có ý đồ lạm dụng.

Theo các công ty này, chương trình dựa trên ba trụ cột: ngăn chặn lạm dụng, phát hiện dịch bệnh nhanh hơn và ứng phó khi dịch bệnh hoặc cuộc tấn công đang diễn ra.

Hơn 15 quan hệ đối tác được xây dựng trong năm qua đều liên quan đến cả ba trụ cột này, mặc dù bản cập nhật cung cấp thông tin hạn chế về các tổ chức tham gia ngoài một số ít cộng tác viên được nêu tên, bao gồm Phòng thí nghiệm Quốc gia Lawrence Livermore, Viện An ninh AI Vương quốc Anh, CEPI và Viện Francis Crick.

DeepMind cho biết họ dự định mở rộng các mối quan hệ này trong 6 đến 12 tháng tới, với sự chú trọng chuyển sang lĩnh vực tình báo đe dọa, các phương pháp đánh giá cho tác nhân AI và các biện pháp giảm thiểu jailbreak. Họ cũng đang phối hợp với Frontier Model Forum về các vấn đề như cách xử lý các danh mục dữ liệu huấn luyện rủi ro cao hơn, với ví dụ được đưa ra là các tập dữ liệu virus học.

Khóa chặt Gemini mà không chặn đứng các nghiên cứu khoa học hợp pháp

Công tác phòng ngừa dựa trên việc mô hình hóa các mối đe dọa được thiết kế để xác định những đối tượng nào có khả năng cố gắng lạm dụng nhất và những nút thắt nào hiện đang ngăn cản họ. DeepMind cho biết họ sử dụng kết hợp giữa red-teaming chuyên gia và các thử nghiệm ngẫu nhiên có đối chứng để đánh giá liệu Gemini có thể giúp ai đó vượt qua những nút thắt đó hay không.

Các phương pháp hậu huấn luyện (post-training) nhằm dạy mô hình từ chối các truy vấn độc hại trong khi tránh được điều mà công ty gọi là "từ chối quá mức" (over-refusal) đối với các câu hỏi khoa học hợp pháp – một sự cân bằng đã được chứng minh là khó khăn trên toàn ngành nói chung, không chỉ riêng với DeepMind. Các bộ phân loại (classifiers) và công cụ thăm dò được triển khai để gắn cờ các hoạt động rủi ro trong thời gian thực, và công ty cho biết họ thực hiện phân tích nhật ký có mục tiêu để phát hiện các mô hình lạm dụng tinh vi hơn mà các bộ lọc tự động có thể bỏ sót.

Không có biện pháp giảm thiểu nào trong số này được mô tả là đã hoàn thiện. DeepMind coi chúng là một quá trình liên tục thay vì một hệ thống đã hoàn tất, điều này rất quan trọng đối với bất kỳ doanh nghiệp hoặc cơ quan chính phủ nào đang đánh giá việc liệu có nên dựa vào các biện pháp bảo vệ như hiện tại hay không. Một bộ phân loại được tinh chỉnh dựa trên các mô hình jailbreak đã biết trong một đánh giá có kiểm soát không đảm bảo hiệu suất tương đương đối với các phương pháp tấn công mới xuất hiện trong thực tế, và công ty cũng không khẳng định điều ngược lại.

Vấn đề sàng lọc tổng hợp DNA

Một trong những rủi ro cụ thể hơn đang được nghiên cứu liên quan đến tổng hợp DNA. Các công ty thuộc Hiệp hội Tổng hợp Gene Quốc tế hiện đang sàng lọc các đơn đặt hàng dựa trên danh sách các mầm bệnh và độc tố có hại đã biết, kết hợp với các thuật toán sàng lọc. DeepMind khẳng định rõ ràng rằng cách tiếp cận này đang bắt đầu suy yếu, bởi vì AI hiện có thể giúp thiết kế các trình tự DNA có chức năng tương tự như một mầm bệnh nguy hiểm mà không cần khớp trình tự của nó đủ gần để kích hoạt các bộ lọc hiện có.

Giải pháp được đề xuất mượn từ hệ thống đóng dấu bản quyền (watermarking) hiện có của DeepMind là SynthID, mà công ty cho biết đã trở thành tiêu chuẩn công nghiệp để đánh dấu hình ảnh và văn bản do AI tạo ra. Việc điều chỉnh nó cho các trình tự sinh học được trình bày như một công việc mang tính khám phá, không phải là một sản phẩm đã được phát hành.

Một mục tiêu dài hạn hơn, được mô tả là một thách thức kỹ thuật mở thay vì một vấn đề sắp được giải quyết, liên quan đến việc sàng lọc dự đoán liệu một trình tự DNA mới có khả năng gây độc hoặc gây bệnh dựa trên chức năng của nó hay không, bất kể nó có giống với bất kỳ thứ gì trong cơ sở dữ liệu hiện có hay không.

Giải trình tự giá rẻ như một lớp phát hiện

Việc phát hiện phụ thuộc vào giải trình tự metagenomic, giúp đặc trưng hóa mọi vi sinh vật trong mẫu thay vì chỉ kiểm tra danh sách các mầm bệnh đã biết theo cách chẩn đoán truyền thống. Yếu tố hạn chế là chi phí, và việc mở rộng quy mô phương pháp này đến các khu vực có nguy cơ bùng phát dịch bệnh cao nhất đòi hỏi chi phí phải giảm đáng kể.

DeepMind chỉ ra sự hợp tác giữa Google và Pacific Biosciences, vốn đã sử dụng tác nhân mã hóa AlphaEvolve để cải thiện độ chính xác của giải trình tự, như một điểm dữ liệu hướng tới mục tiêu đó. Công ty cho biết họ hiện đang xem xét các cơ hội khác – từ việc tối ưu hóa các thuật toán xử lý dữ liệu giải trình tự, cho đến việc cung cấp thông tin cho thiết kế phần cứng – và riêng biệt đang khám phá xem liệu AlphaGenome có thể giúp đặc trưng hóa các mầm bệnh trực tiếp từ dữ liệu trình tự hay không.

Đây vẫn là các hợp tác nghiên cứu thay vì các hệ thống được triển khai thực địa, và khoảng cách giữa việc tăng độ chính xác giải trình tự trong một quy trình có kiểm soát với một mạng lưới cảnh báo sớm hoạt động hiệu quả trên khắp các hệ thống nước thải và trung tâm trung chuyển ở những khu vực có nguồn lực hạn chế là không hề nhỏ.

Hồ sơ công bố của AlphaFold và khoảng trống đối phó

Trụ cột ứng phó dựa vào khoảng trống về các biện pháp đối phó y tế, khiến nhiều mầm bệnh đã biết không có phương pháp chẩn đoán, vắc-xin hoặc phương pháp điều trị được cấp phép. DeepMind trích dẫn hơn 10.000 ấn phẩm về bệnh truyền nhiễm đã tham chiếu AlphaFold trong năm năm qua, bao gồm các công trình về truyền nhiễm bệnh lao và sốt rét, cũng như lập bản đồ mục tiêu cho các mối đe dọa bao gồm Mpox và Nipah.

Sự bổ sung mới nhất cho hồ sơ đó là quan hệ đối tác với chương trình an ninh sinh học của Lawrence Livermore, dự kiến sử dụng AlphaFold 3 cho công việc thiết kế kháng thể phổ rộng, bao gồm nỗ lực tạo kháng thể pan-filovirus. DeepMind cho biết họ sẽ tiếp tục bổ sung các cấu trúc và phức hợp protein vào Cơ sở dữ liệu cấu trúc protein AlphaFold trong năm nay, ưu tiên các mục tiêu liên quan đến phát triển biện pháp đối phó.

Quyền truy cập vào các hệ thống tác nhân mới hơn, bao gồm Co-Scientist, đang được mở rộng cho các nhà nghiên cứu được chọn, trong đó có các nhà khoa học tại các Phòng thí nghiệm Quốc gia thuộc Bộ Năng lượng Hoa Kỳ đang làm việc theo Sứ mệnh Genesis.

Isomorphic Labs đã tiến thêm một bước, thành lập một đơn vị chuyên trách nhằm triển khai nhanh chóng công cụ thiết kế thuốc của mình trong một đợt bùng phát dịch bệnh mới, làm việc cùng với các cơ quan chính phủ và nghiên cứu quốc gia như Lawrence Livermore, Viện An ninh AI Vương quốc Anh, CEPI và Viện Francis Crick. Công ty cũng cam kết tài trợ 7 triệu USD cho Health for Human Potential, một chương trình của Philanthropy Asia Alliance, để nghiên cứu bệnh truyền nhiễm trên khắp châu Á.

Các khuyến nghị của DeepMind đối với các nhà hoạch định chính sách Hoa Kỳ gắn liền trực tiếp với ba trụ cột của họ và dựa trên các dự luật cụ thể đang chờ xử lý:

Không có dự luật nào trong số đó được ban hành, và khoảng cách giữa danh sách mong muốn chính sách của một công ty với một khung an ninh sinh học liên bang hoạt động hiệu quả chính là nơi thử thách thực sự của chương trình này sẽ diễn ra trong 6-12 tháng tới.

Xem thêm: Neko Health huy động 700 triệu USD để mở rộng quét cơ thể bằng AI tại Mỹ

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy tham khảo AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.