Hợp tác Mỹ - Trung về an toàn sinh học AI: Liệu có khả thi?

Altman, Amodei, Hassabis cùng một danh sách dài các nhân vật trong lĩnh vực AI và an ninh sinh học từ cả phe cánh hữu lẫn cánh tả thực sự đang đồng thuận về một điều. Trong một bức thư ngỏ vào tháng 6, họ lập luận rằng Mỹ nên yêu cầu các công ty tổng hợp axit nucleic phải sàng lọc các đơn hàng DNA và RNA trước khi thực hiện.

AI sẽ giúp việc thiết kế các mầm bệnh nguy hiểm trở nên dễ dàng hơn, nhưng những thiết kế đó vẫn cần phải đi qua thế giới vật lý. Các nhà cung cấp dịch vụ tổng hợp axit nucleic là một trong số ít những "nút thắt" giữa kiến thức sinh học kỹ thuật số và năng lực sinh học thực tế, như chúng ta sẽ thấy trong phần tiếp theo.

Nếu các nhà hoạch định chính sách đang tìm kiếm một cách cụ thể để giảm thiểu rủi ro sinh học do AI gây ra, thì việc sàng lọc các đơn hàng này là một điểm khởi đầu tốt.

Washington đã hứa hẹn một nửa về việc sẽ hành động. Năm ngoái, chính quyền Trump đã hủy bỏ khung sàng lọc tổng hợp axit nucleic thời Biden, với lời hứa sẽ thay thế nó bằng một thứ gì đó lớn hơn và có tính thực thi cao hơn. Sau đó, an ninh sinh học phần lớn đã không còn nằm trong tầm ngắm của họ. Nhưng sau lệnh cấm (và sau đó là gỡ bỏ lệnh cấm) đối với Fable, cũng như sự cố OpenAI–Hugging Face, ngày càng có sự công nhận rằng các rủi ro từ AI tiên phong — bao gồm cả rủi ro sinh học — rốt cuộc có thể không chỉ là lý thuyết thuần túy.

Cotton (Đảng Cộng hòa) và Klobuchar (Đảng Dân chủ) cũng đang thúc đẩy một dự luật tại Thượng viện nhằm buộc Bộ Thương mại và OSTP phải hành động về việc sàng lọc tổng hợp, và có một dự luật hẹp hơn tại Hạ viện từ Pfluger (Đảng Cộng hòa) và Houlahan (Đảng Dân chủ).

Mỹ cần phải thực hiện điều này đến cùng. Nhưng Mỹ chỉ là một mắt xích trong chuỗi cung ứng công nghệ sinh học toàn cầu.

Trung Quốc chiếm khoảng 34% các nhà cung cấp dịch vụ tổng hợp DNA trên thế giới. Hệ sinh thái AI của nước này mang tính mã nguồn mở nhiều hơn và do đó khó kiểm soát hơn thông qua các biện pháp bảo vệ ở cấp độ mô hình. Và họ đã làm chưa tốt trong việc đảm bảo các mô hình AI của mình không tạo ra các rủi ro sinh học. Một chế độ sàng lọc chỉ riêng ở Mỹ sẽ giảm thiểu rủi ro, nhưng sẽ không loại bỏ được nó nếu khách hàng có thể dễ dàng chuyển hướng đơn hàng qua các nhà cung cấp ở những khu vực pháp lý dễ dãi hơn.

Sàng lọc tổng hợp cần nằm trong chương trình nghị sự của các cuộc đàm phán AI Mỹ-Trung sắp tới.

Sàng lọc tổng hợp có phạm vi hẹp, tương đối dễ xác minh và có khả năng là một chiến thắng cho cả hai bên. Nó cũng gây ra rất ít chi phí cho chính quá trình phát triển AI, vì gánh nặng chủ yếu đổ dồn lên các nhà cung cấp dịch vụ tổng hợp thay vì các nhà phát triển mô hình. Thay vì yêu cầu Washington và Bắc Kinh hy sinh các lợi ích cốt lõi hoặc xác minh lời hứa của nhau, nó yêu cầu họ áp dụng một biện pháp bảo vệ mà không quốc gia nào có lý do quá mạnh mẽ để phản đối.

Chia sẻ

Sàng lọc tổng hợp axit nucleic về cơ bản là một bước kiểm tra an ninh cho các đơn hàng DNA và RNA tùy chỉnh. Khi ai đó đặt hàng một trình tự, nhà cung cấp sẽ so sánh nó với cơ sở dữ liệu về các mầm bệnh và độc tố nguy hiểm, kiểm tra xem khách hàng có đáng ngờ hay không, và quyết định xem có thực hiện, trì hoãn hay từ chối đơn hàng đó. Mục tiêu không phải là xem xét mọi thí nghiệm sinh học, mà là ngăn chặn các vật liệu di truyền nguy hiểm được vận chuyển mà không qua kiểm duyệt.

Hãy tưởng tượng một nhà nghiên cứu muốn tổng hợp một loại protein từ virus đậu mùa, một trong những mầm bệnh chết người nhất trong lịch sử. Trình tự di truyền liên quan đã được công bố, vì vậy họ có thể sao chép mã DNA tương ứng với protein đó và gửi cho một công ty tổng hợp. Và khi thiết kế sinh học hỗ trợ bởi AI được cải thiện, mối lo ngại không chỉ là người dùng có thể sao chép hoặc tinh chỉnh các mầm bệnh đã biết, mà là họ có thể ngày càng có khả năng thiết kế các trình tự sinh học mới được tối ưu hóa cho khả năng gây chết người hoặc khả năng lây truyền.

Việc chúng ta vẫn chưa quản lý điều này là một thực tế khá điên rồ, và đó là lý do tại sao nhiều công ty tổng hợp lớn thực hiện sàng lọc tự nguyện. Nhưng không phải nhà cung cấp nào cũng tham gia, việc thực thi thực tế rất khó khăn vì các nhà cung cấp này có nguồn lực và tính cưỡng chế hạn chế, và chỉ cần một nhà cung cấp không được quản lý chặt chẽ cũng có thể trở thành lỗ hổng phá hỏng nỗ lực của tất cả mọi người.

An ninh sinh học mang tính bất đối xứng theo cách mà nhiều vấn đề an toàn khác không có. Một hệ thống có thể hoạt động tốt 99,9% thời gian nhưng vẫn thất bại thảm hại nếu một kẻ xấu có năng lực tìm ra kẽ hở, hoặc nếu một phòng thí nghiệm hợp pháp mắc sai lầm nghiêm trọng. Nhiều đơn hàng vô hại không thể bù đắp cho một đơn hàng nguy hiểm. Và các báo cáo trước đây đã phơi bày việc các nhà cung cấp sẵn sàng vận chuyển các mảnh mầm bệnh nguy hiểm với sự kiểm duyệt lỏng lẻo đến mức đáng xấu hổ.

Các biện pháp bảo vệ mô hình AI có ích, nhưng chúng dễ bị vượt qua và có thể buộc các phòng thí nghiệm như Anthropic phải áp dụng các biện pháp sửa lỗi thô bạo như tự động chuyển hướng người dùng sang các mô hình yếu hơn (điều này khiến việc nghiên cứu bài viết này trở nên khó chịu hơn nhiều). Thay vào đó, việc sàng lọc các nhà cung cấp dịch vụ tổng hợp sẽ nhắm vào chuỗi cung ứng trước khi một trình tự trở thành sản phẩm được vận chuyển.

Nhưng sàng lọc không phải là thuốc chữa bách bệnh. Các máy tổng hợp để bàn (benchtop synthesizers - máy tổng hợp cá nhân đủ nhỏ để đặt trên bàn thí nghiệm), các đơn hàng phân mảnh và các nhà cung cấp nước ngoài có thể làm suy yếu hệ thống. Tuy nhiên, ví dụ như các máy tổng hợp để bàn vẫn chưa phải là những "máy in mầm bệnh" kỳ diệu, và các cách giải quyết khác bị hạn chế bởi chi phí, độ dài trình tự và lợi thế kinh tế theo quy mô giúp tạo nên sự khác biệt cho các nhà cung cấp dịch vụ tổng hợp chính. Sàng lọc các đơn hàng tổng hợp thương mại sẽ không đóng lại mọi con đường từ màn hình đến bàn thí nghiệm, nhưng nó có thể đóng lại một trong những con đường dễ dàng nhất.

Trung Quốc, giống như Mỹ, vẫn chưa có chế độ sàng lọc đơn hàng quốc gia bắt buộc, nhưng họ không bắt đầu từ con số không. Một số nhà cung cấp dịch vụ tổng hợp lớn nhất liên kết với Trung Quốc đã tham gia vào các hệ thống sàng lọc tự nguyện. Hiệp hội Tổng hợp Gen Quốc tế (IGSC) là một nhóm ngành tuyệt vời (dù còn hạn chế) mà các thành viên cam kết sàng lọc các đơn hàng gen và khách hàng. Họ đã kết nạp BGI Bio-Solutions vào năm 2017, và GenScript cũng là một thành viên. Các công ty/chuyên gia Trung Quốc cũng đã làm việc với Sáng kiến Quốc tế về An ninh và An toàn Sinh học cho Khoa học (IBBIS), một tổ chức phi lợi nhuận về an ninh sinh học đang cố gắng làm cho việc sàng lọc tổng hợp trở nên dễ dàng và chuẩn hóa hơn giữa các quốc gia.

Sàng lọc tổng hợp cũng là một chủ đề mà các nhà nghiên cứu Trung Quốc đang nêu ra thường xuyên hơn.

Chia sẻ

Lập luận về AI cho việc sàng lọc có thể còn thuyết phục hơn đối với Trung Quốc so với Mỹ. Các mô hình tiên phong của Trung Quốc có thể so sánh với các mô hình hàng đầu của phương Tây về các tiêu chuẩn năng lực sinh học lưỡng dụng nhưng lại đi kèm với các biện pháp bảo vệ chống lạm dụng kém hiệu quả hơn đáng kể. Và hệ sinh thái AI của Trung Quốc mang tính mã nguồn mở nhiều hơn, điều này khiến các mối lo ngại về sinh học trở nên khó quản lý hơn — một khi các trọng số được phát hành, người dùng có thể sửa đổi, "bẻ khóa" hoặc chạy chúng cục bộ mà không cần các bộ lọc an toàn của phòng thí nghiệm gốc. Trung Quốc đang thúc đẩy mạnh mẽ cả mô hình mã nguồn mở và công nghệ sinh học, điều này có thể là công thức cho một thảm họa. Điều này mang lại cho họ lý do lớn hơn nữa để củng cố nút thắt hạ nguồn nơi các trình tự kỹ thuật số trở thành DNA vật lý.

Về việc triển khai thực tế, Trung Quốc cũng có thể có lợi thế. Phần khó nhất của sàng lọc tổng hợp không phải là kiểm tra trình tự mà là xác minh xem khách hàng có đáng tin cậy hay không, và Trung Quốc đã thực hiện một quy trình gần giống như KYC (xác minh danh tính khách hàng) đối với hầu hết dân số của họ.

Và đừng quên điểm hiển nhiên nhất: Tập Cận Bình không muốn một đại dịch COVID 2.0 xuất phát từ Trung Quốc! Vì lý do này, như tôi đã thảo luận trong một bài viết trước, Trung Quốc đã thực hiện các bước gần đây để tăng cường khả năng sẵn sàng ứng phó đại dịch, chẳng hạn như Luật An ninh sinh học, trong đó có một vài phần có thể được hiểu là kêu gọi sàng lọc.

Một số người sẽ lo lắng rằng sàng lọc tổng hợp có thể làm chậm tiến độ công nghệ sinh học, và nếu Mỹ thắt chặt các quy tắc trong khi Trung Quốc không làm vậy, các công ty Trung Quốc sẽ vượt lên trước. Nhưng tôi không nghĩ đây thực sự là một mối lo ngại lớn.

Tổng hợp axit nucleic chỉ là một bước nhỏ trong một quy trình dài hơn nhiều. Việc đặt hàng DNA mất vài ngày, trong khi phát triển một loại thuốc mất nhiều năm. Những nút thắt thực sự là những thứ như các cấu trúc thất bại, công việc tế bào, nghiên cứu trên động vật, thử nghiệm lâm sàng, sản xuất và đánh giá quy định.

Bản thân việc sàng lọc cũng đang trở nên rẻ hơn. Phần mềm đã tồn tại. Cơ chế chung (Common Mechanism) của IBBIS cung cấp cho các nhà cung cấp một công cụ cơ bản để sàng lọc trình tự. Sàng lọc khách hàng tốn kém hơn, nhưng ngay cả chi phí đó cũng đang giảm nhanh chóng. Như IFP lập luận, KYC hỗ trợ bởi AI có thể đẩy chi phí đó xuống đủ thấp để việc kiểm tra khách hàng chỉ chiếm một phần nhỏ trong giá của một đơn hàng có độ dài gen thông thường.

Các công ty đại diện cho khoảng 80% năng lực tổng hợp toàn cầu đã sàng lọc tự nguyện. Nếu sàng lọc là một lực cản cạnh tranh nghiêm trọng, thì các công ty có nhiều thứ để mất nhất sẽ là những người tránh né nó, chứ không phải là những người ký kết tham gia. Việc bắt buộc sàng lọc chủ yếu nâng cao tiêu chuẩn cho 20% còn lại, điều này có thể giúp các nhà cung cấp lớn bằng cách tăng tính ổn định cho động lực thị trường, vì hiện nay họ có thể bị các nhà cung cấp nhỏ hơn, ít uy tín hơn bỏ qua sàng lọc để cạnh tranh về giá.

Cuối cùng, chi phí sàng lọc là không đáng kể so với cái giá phải trả nếu làm sai. Ở đỉnh điểm, COVID đã tiêu tốn của nền kinh tế Mỹ khoảng 26 tỷ USD mỗi ngày. Mỗi ngày có vắc-xin sớm hơn đều đáng giá hàng chục tỷ USD. (Trung tâm Khả năng phục hồi Dài hạn đã đưa ra các con số cho điều này ở Anh và nhận thấy mỗi 1 bảng Anh chi cho sàng lọc sẽ mang lại 3,5 bảng Anh từ các khoản lỗ được ngăn chặn.) Bất kỳ sự can thiệp nào làm giảm tỷ lệ xảy ra đại dịch khác, dù chỉ một chút, cũng đều tự bù đắp chi phí nhiều lần — chưa kể đến mệnh lệnh đạo đức về việc cứu sống hàng triệu người!

Việc Mỹ và Trung Quốc hợp tác trong bất cứ điều gì đều khó khăn. Một phần của vấn đề là nhiều hình thức hợp tác được đề xuất đòi hỏi sự xác minh lẫn nhau. Nếu một bên giữ đúng cam kết trong khi bên kia gian lận, bên hợp tác có thể rơi vào thế bất lợi.

Đó là lý do tại sao, khi suy nghĩ về hợp tác AI Mỹ-Trung, tôi thấy hữu ích khi phân biệt giữa hợp tác có điều kiện (contingent cooperation) và hợp tác được chứng minh (demonstrated cooperation).

Hợp tác có điều kiện chỉ hoạt động nếu cả hai bên cùng hành động đồng thời. Ví dụ, trong các thỏa thuận kiểm soát vũ khí, nếu một bên tự hạn chế trong khi bên kia bí mật vi phạm, bên hợp tác cuối cùng sẽ yếu hơn trong khi đối thủ của họ giành được lợi thế quân sự. Hợp tác được chứng minh bao gồm việc mỗi bên độc lập thực hiện các hành động thúc đẩy một mục tiêu chung (mục tiêu mà họ muốn theo đuổi dù thế nào đi nữa) đồng thời cung cấp bằng chứng về cam kết của mình đối với mục tiêu đó. Theo thời gian, cả hai quốc gia dần dần tích lũy niềm tin thông qua các hành động hợp tác được chứng minh lặp đi lặp lại, điều này có thể tạo nền tảng để giải quyết dần dần các vấn đề khó khăn hơn — mang tính điều kiện hơn.

Matt Sheehan đã diễn đạt điều tương tự trong bài viết này:

“Tôi tin rằng (ít nhất là vào lúc này) những hành động quan trọng nhất về quản trị và an toàn AI sẽ là những hành động trong nước mà Mỹ và Trung Quốc thực hiện — chứ không phải các thỏa thuận quốc tế hay song phương. Có thể có một mức độ phối hợp nhẹ nhàng, nhưng khó có khả năng là kiểu 'Chúng tôi làm X vì bạn cũng đã hứa sẽ làm như vậy'.”

Sàng lọc tổng hợp đối với tôi là một cơ hội chín muồi cho sự phối hợp được chứng minh. Cả hai quốc gia đều độc lập không muốn một đại dịch giống như Covid xuất hiện từ trong biên giới của họ. Hợp tác không làm giảm mục tiêu này; nó bổ sung cho mục tiêu đó. Nó mang lại cho cả hai chính phủ thứ gì đó mà họ có thể thực hiện một cách độc lập.

Chia sẻ

Mỹ có thể yêu cầu các nhà cung cấp Mỹ sàng lọc đơn hàng; Trung Quốc có thể yêu cầu các nhà cung cấp Trung Quốc làm điều tương tự; cả hai đều có thể chỉ ra các tín hiệu trong nước như bằng chứng cho thấy họ đang coi trọng rủi ro AI-sinh học.

Cách đặt vấn đề này cũng tránh được một trong những cái bẫy thông thường trong chính trị an toàn AI. An toàn thường bị coi là phanh hãm sự tiến bộ; tại sao Trung Quốc/Mỹ lại phải chấp nhận các quy tắc có thể khóa chặt lợi thế AI của bên kia? Sàng lọc tổng hợp không phù hợp với khuôn mẫu đó, vì nó không nhằm mục đích làm cho các mô hình yếu đi hoặc làm chậm các phòng thí nghiệm AI. Thay vào đó, nó là về việc bảo vệ chuỗi cung ứng vật lý biến các thiết kế sinh học thành vật liệu sinh học. Và như đã giải thích trong phần trước, nó cũng sẽ không làm chậm đáng kể công nghệ sinh học.