Nobel Demis Hassabis dự báo: AGI sẽ tạo ra cú hích gấp 100 lần Cách mạng Công nghiệp

Cảm ơn bạn đọc "" của IT đã gửi tin!

Vừa mới đây, chủ nhân giải Nobel, người đứng đầu DeepMind - Demis Hassabis đã đưa ra tuyên bố đanh thép:

Trí tuệ nhân tạo tổng quát (AGI) sắp sửa trở thành hiện thực.

Hassabis mạnh mẽ khẳng định: Việc nghiên cứu dược phẩm sẽ không còn cần đến hàng thập kỷ thử sai kéo dài, các loại năng lượng sạch mới có thể đạt bước đột phá trong vài năm tới, và các vật liệu tiên tiến sẽ khiến khái niệm "khan hiếm tài nguyên" trở thành dĩ vãng.

Chúng ta thậm chí có thể chạm đến một cột mốc mà ở đó, tài nguyên không còn là yếu tố hạn chế sự tiến bộ của nhân loại. Một kỷ nguyên mới của sự sung túc đáng kinh ngạc đang gõ cửa.

Ông thẳng thắn nói: Đây là thời khắc then chốt trong lịch sử nhân loại, AGI có thể sẽ thành hiện thực chỉ trong vài năm ngắn ngủi!

Hassabis đưa ra một phép tính khiến người ta phải rùng mình: Quy mô tác động của AGI sẽ gấp 10 lần cuộc Cách mạng Công nghiệp, và tốc độ cũng nhanh gấp 10 lần. Đây là một "đòn giáng hạ tầng". Điều này có nghĩa là nhân loại sắp bước vào một thời đại biến động với tốc độ gấp 100 lần.

Với dự báo đầy quyết liệt như vậy, Hassabis đã đưa ra đề xuất gây tranh cãi nhất của mình: Thành lập một tổ chức tương tự như Cơ quan Quản lý Tài chính (FINRA), yêu cầu tất cả các "phòng thí nghiệm tiên phong" (Frontier Labs) phải trải qua "thời gian thẩm định" 30 ngày trước khi phát hành mô hình.

Thậm chí trong những tình huống cực đoan, cơ quan này có quyền điều phối các phòng thí nghiệm trên toàn cầu cùng nhau làm chậm tốc độ nghiên cứu.

Nhưng Hassabis không dừng lại ở đó. Ông mở rộng tầm nhìn, nhắm thẳng vào những băn khoăn sâu sắc nhất của nhân loại: "Ngay cả khi chúng ta giải quyết được những bài toán kỹ thuật hóc búa này, vẫn sẽ còn những vấn đề kinh tế và triết học phức tạp hơn cần được giải quyết."

Trong thời đại hậu khan hiếm, cần có mô hình kinh tế mới nào để giúp tất cả mọi người cùng thịnh vượng? Chúng ta mong muốn duy trì những giá trị nào? Ý nghĩa và mục đích sẽ là gì? Thậm chí, tình trạng của chính con người sẽ thay đổi ra sao?

Dưới đây là bản dịch bài viết của Hassabis — "A Framework for Frontier AI and the Dawning of a New Age" (Khung quản trị AI tiên phong và bình minh của một kỷ nguyên mới).

Khung quản trị AI tiên phong và bình minh của một kỷ nguyên mới

Đây là thời khắc then chốt trong lịch sử nhân loại.

Trí tuệ nhân tạo tổng quát (AGI) — một hệ thống sở hữu toàn bộ năng lực nhận thức của não người — có lẽ chỉ còn cách chúng ta vài năm ngắn ngủi. Vài thập kỷ sau nhìn lại thời điểm này, tôi nghĩ chúng ta sẽ nhận ra rằng: chúng ta đã đứng dưới chân núi của điểm kỳ dị, và gọi đây là bình minh của một kỷ nguyên mới cho nhân loại cũng không hề quá lời.

Tôi đã dành cả đời để nghiên cứu AGI vì tôi luôn tin tưởng rằng: nếu được xây dựng và triển khai một cách có trách nhiệm, nó sẽ chứng minh là một trong những công nghệ có lợi và mang tính cách mạng nhất mà nhân loại từng có. AGI không thể so sánh với các đột phá công nghệ thông thường, ngay cả những công nghệ có tầm ảnh hưởng sâu rộng như Internet hay Internet di động cũng không thể — nó giống như khoảnh khắc nhân loại phát hiện ra điện hay học cách sử dụng lửa.

Hãy thử tĩnh tâm suy nghĩ: Về bản chất, chúng ta đã tìm ra cách để khiến cát biết tư duy. Đó là một phép màu.

Quy mô tác động của công nghệ này sẽ chưa từng có tiền lệ — có lẽ ở mức gấp 10 lần cuộc Cách mạng Công nghiệp và diễn ra với tốc độ nhanh gấp 10 lần. Nó sẽ giúp chúng ta giải quyết một số vấn đề trọng đại nhất mà xã hội đang đối mặt: từ việc tăng tốc nghiên cứu thuốc mới, phát triển năng lượng sạch, cho đến tạo ra các vật liệu tiên tiến hoàn toàn mới.

Chúng ta thậm chí có thể đi đến một cột mốc mà tài nguyên không còn là yếu tố hạn chế sự tiến bộ của nhân loại, mở ra một kỷ nguyên mới của sự sung túc đáng kinh ngạc.

Những thách thức tiên phong

AI đã bắt đầu mang lại những lợi ích thực tế, nhưng để hiện thực hóa tiềm năng to lớn của nó, chúng ta phải suy nghĩ thấu đáo và cẩn trọng vượt qua giai đoạn phát triển then chốt này. Khi chúng ta ngày càng tiến gần đến AGI, cần phải có những hành động khẩn cấp để ứng phó với các rủi ro có thể đi kèm.

Chúng ta đã chứng kiến những thách thức mà các mô hình tiên phong mang lại cho an ninh mạng; và khi năng lực tiếp tục tăng lên, các mối đe dọa khác bao gồm rủi ro hạt nhân và rủi ro sinh học có thể sớm xuất hiện. Nhìn xa hơn, chúng ta cần các biện pháp bảo vệ mạnh mẽ để duy trì quyền kiểm soát đối với các hệ thống ngày càng mang tính tác nhân (agentic), có khả năng tự cải tiến đệ quy — và xử lý những vấn đề chưa biết vốn chỉ dần lộ diện theo thời gian.

Tôi luôn tin rằng trí tuệ và sự sáng tạo của con người đủ để giải quyết mọi khó khăn. Tôi tin tưởng rằng việc hóa giải các rủi ro kỹ thuật liên quan đến AI là thách thức mà chúng ta có thể cùng nhau đối mặt. Nhưng điều kiện tiên quyết là chúng ta phải dành cho mình thời gian và không gian để thực hiện đúng bước đi then chốt tiếp theo. Hiện tại, dù là với tư cách một lĩnh vực hay một xã hội rộng lớn hơn, chúng ta vẫn chưa làm được điều đó.

Lúc này, chúng ta đang lún sâu vào một cuộc đua thương mại và địa chính trị vô cùng khốc liệt và đan xen nhiều tầng lớp. Thế trận cạnh tranh này tuy thúc đẩy sự tiến bộ nhanh chóng và đẩy nhanh việc hiện thực hóa những lợi ích kinh ngạc, nhưng tốc độ phát triển tiên phong đã vượt xa tốc độ hiểu biết của chúng ta về chính công nghệ này.

Không ai trên thế giới có thể chắc chắn điều gì sẽ xảy ra tiếp theo, ngay cả các chuyên gia cũng có ý kiến trái chiều. Khi sự không chắc chắn quá lớn và rủi ro quá cao, việc tiến bước vững chắc với "sự lạc quan thận trọng" mới là chiến lược khôn ngoan và đúng đắn. Điều này đòi hỏi chính sách công phải: vừa thúc đẩy đổi mới, vừa khuyến khích trách nhiệm và an toàn; thúc đẩy hợp tác quốc tế về các vấn đề an ninh then chốt; và khuyến khích các bên cân nhắc thận trọng cách thức triển khai AI để mang lại lợi ích cho xã hội.

"Cơ quan Tiêu chuẩn AI Tiên phong": Một khung quản trị

Sự tiến bộ vũ bão của AI hiện nay đòi hỏi chúng ta phải có cách thức mới để kiểm tra năng lực của các mô hình AI tiên phong — một cách thức phải năng động, linh hoạt và nghiêm ngặt.

Mỹ có đủ điều kiện để thực hiện bước đi đầu tiên, tiên phong xây dựng một khung quản trị như vậy: thành lập một "Cơ quan Tiêu chuẩn" (Standards Body) mới, mô phỏng theo mô hình hợp tác công tư hoặc tổ chức tự quản ngành dưới sự giám sát của liên bang — giống như Cơ quan Quản lý Tài chính (FINRA) — với hội đồng quản trị bao gồm các chuyên gia kỹ thuật hàng đầu độc lập và đại diện cộng đồng mã nguồn mở.

Quy mô vốn phải đáng kể và rất có thể chủ yếu đến từ ngành công nghiệp, như vậy mới có thể thu hút nhân tài kỹ thuật đẳng cấp thế giới và cung cấp tài nguyên tính toán cần thiết cho việc thử nghiệm quy mô lớn.

Nếu mô hình đạt đến ngưỡng cụ thể trong các bài kiểm tra chuẩn mực do Cơ quan Tiêu chuẩn thiết lập, nó sẽ được công nhận là "cấp tiên phong" (Frontier-class); bộ chuẩn mực này sẽ được cập nhật định kỳ để theo kịp sự tiến hóa của năng lực AI.

Các tổ chức được xác định sở hữu "mô hình tiên phong" theo các chuẩn mực này sẽ được coi là "phòng thí nghiệm tiên phong" (Frontier Labs) và được khuyến khích áp dụng một loạt các thực tiễn tốt nhất, ví dụ: phát hành thẻ mô hình (model card) chứa chi tiết kỹ thuật, duy trì an ninh mạng nội bộ mạnh mẽ, kiểm tra lý lịch nhân sự ở các vị trí then chốt, đầu tư nguồn lực đầy đủ cho nghiên cứu an toàn và bảo mật, v.v.

Trong giai đoạn đầu, các phòng thí nghiệm tiên phong sẽ tự nguyện gửi mô hình cho Cơ quan Tiêu chuẩn thẩm định tối đa 30 ngày trước khi phát hành. Một khi quy trình đánh giá được chứng minh là hiệu quả và đủ vững chắc, nó có thể nhanh chóng được chính thức hóa.

Khi đó, các mô hình tiên phong phải vượt qua đánh giá mới được triển khai tại thị trường Mỹ. Các phòng thí nghiệm cũng cần hợp tác với Cơ quan Tiêu chuẩn để xử lý bất kỳ lỗ hổng nghiêm trọng nào lộ diện sau khi phát hành mô hình.

Đánh giá mô hình nên bao gồm các bài kiểm tra khoa học nghiêm ngặt về năng lực an ninh mạng, mối đe dọa sinh học và các lĩnh vực rủi ro cao khác.

Các bài kiểm tra chuyên biệt cho AI tác nhân (agentic AI) có thể rà soát xem mô hình có cố gắng vượt qua các rào cản an toàn hay không, có biểu hiện lừa dối hay không, và đảm bảo các thực tiễn tốt nhất được áp dụng. Ví dụ: thêm hình mờ kỹ thuật số vào hình ảnh do AI tạo ra, và tạo ra các token đầu ra mà con người có thể đọc được để hiểu quá trình suy luận của mô hình.

Các bài kiểm tra này sẽ được cập nhật định kỳ: giai đoạn đầu có thể là mỗi quý một lần, các chuẩn mực đã lỗi thời hoặc đã "bão hòa" (đạt điểm tối đa) sẽ bị loại bỏ hoặc thay thế.

Ban đầu, các bài kiểm tra có thể được xây dựng cùng với các phòng thí nghiệm tiên phong; nhưng cuối cùng, Cơ quan Tiêu chuẩn nên xây dựng năng lực kỹ thuật của riêng mình, độc lập với các phòng thí nghiệm để phát triển "tập kiểm tra giữ lại" (held-out tests), nhằm ngăn chặn việc mô hình bị quá khớp (overfitting) với dữ liệu kiểm tra.

Cơ quan này cũng có thể hợp tác với chính phủ để nuôi dưỡng một hệ sinh thái các đơn vị kiểm toán bên thứ ba, hỗ trợ thực hiện đánh giá và tham gia xây dựng các chuẩn mực và bài kiểm tra mới.