Demis Hassabis và tầm nhìn về kỷ nguyên AI mới

CEO của Google, Demis Hassabis, đã mang đến cho chúng ta một bài luận hạng nhất nhưng lại có nội dung hạng hai, với tiêu đề "A Framework for Frontier AI and the Dawning of a New Age" (tạm dịch: Khung quản lý cho AI tiên phong và Bình minh của một kỷ nguyên mới). Tôi sẽ phân tích bài luận này cùng các phản hồi xoay quanh nó trong Phần 1.

Phần 2 của bài viết này sẽ đề cập đến việc Alex Turner từ chức, cùng câu chuyện của anh về cách anh đã cố gắng nhưng thất bại trong việc ngăn cản Google ký kết cho phép Bộ Chiến tranh sử dụng các mô hình của mình cho bất cứ mục đích gì mà chính phủ muốn, bao gồm cả vũ khí tự hành.

Demis Hassabis đã bán DeepMind cho Google với điều kiện rằng những việc như thế này sẽ không xảy ra. Thế nhưng, nó vẫn đang diễn ra. Một bài học cảnh tỉnh.

Tôi sẽ đề cập đến Kimi K3 vào ngày mai. Tôi hy vọng sẽ biết thêm thông tin vào lúc đó. Vui lòng chia sẻ bất kỳ phản ứng hoặc thông tin nào của bạn về nó trong phần bình luận tại đây.

Ông ấy nói rằng chúng ta đang đứng dưới chân núi của điểm kỳ dị (singularity).

Yêu cầu của ông ấy là thành lập một Cơ quan Tiêu chuẩn AI Tiên phong (Frontier AI Standards Body) trong Chính phủ Hoa Kỳ, tương tự như FINRA, để quản lý các "phòng thí nghiệm tiên phong" (frontier labs) – được định nghĩa là bất kỳ công ty nào tạo ra mô hình tiên phong dựa trên các tiêu chuẩn kỹ thuật khác nhau. Các đánh giá sẽ được cập nhật thường xuyên và các lỗ hổng sẽ được giải quyết, cả trước và sau khi phát hành.

Ông ấy rất giỏi trong việc khẳng định rằng đây là một vấn đề lớn, thực sự rất lớn, không, phải nói là lớn hơn thế nữa, nó thực sự rất lớn.

Demis Hassabis: Tôi đã dành cả cuộc đời mình để làm việc về AGI vì tôi luôn có một niềm tin sâu sắc rằng, nếu được xây dựng và triển khai một cách có trách nhiệm, nó sẽ chứng minh là một trong những công nghệ có lợi và mang tính chuyển đổi nhất từng được phát minh. AGI không thể so sánh với các đột phá công nghệ tiêu chuẩn, thậm chí không thể so với những thứ quan trọng như internet hay di động – nó giống với việc phát hiện ra điện hay lửa hơn nhiều. Nếu bạn dừng lại để suy nghĩ về điều đó, chúng ta về cơ bản đã tìm ra cách để làm cho cát biết suy nghĩ. Thật kỳ diệu.

Tầm ảnh hưởng của công nghệ này sẽ là chưa từng có, có lẽ gấp 10 lần Cách mạng Công nghiệp với tốc độ nhanh gấp 10 lần. Nó sẽ giúp chúng ta giải quyết một số vấn đề lớn nhất mà xã hội đang đối mặt, từ việc đẩy nhanh quá trình khám phá thuốc, phát triển các nguồn năng lượng sạch mới, cho đến tạo ra các vật liệu tiên tiến mới. Chúng ta thậm chí có thể đạt đến điểm mà tài nguyên không còn là yếu tố giới hạn cho sự tiến bộ của nhân loại, dẫn đến một kỷ nguyên mới đầy sung túc đáng kinh ngạc.

Chắc chắn có một khía cạnh "đừng nói ra điều đó" ở đây, khi ông ấy không nêu tên những rủi ro tiêu cực thực sự là gì. Khi Demis nói "các chuyên gia không đồng ý", ông ấy khá né tránh về cách mà họ không đồng ý ở đây.

Nate Soares (MIRI): Tôi rất vui vì Demis thừa nhận rằng đây là một "thời điểm then chốt trong lịch sử nhân loại" trong một cuộc đua "cực kỳ khốc liệt". Tôi thất vọng vì giải pháp mà ông ấy đề xuất chỉ là một "cơ quan tiêu chuẩn" để đánh giá xem các mô hình có nguy hiểm hay không, mà không có kế hoạch cho việc phải làm gì sau khi xác định được chúng nguy hiểm.

Tôi vui vì ông ấy thừa nhận rằng "các chuyên gia không đồng ý". Tôi khó chịu vì ông ấy lướt qua việc sự bất đồng đó nằm ở chỗ liệu có khoảng 5% hay ≥50% khả năng xảy ra thảm họa toàn diện. Chúng ta phải làm tốt hơn thế.

Aaron Scher: Rất vui khi thấy các CEO AI công khai quan điểm của họ về AGI. Tôi nghĩ Demis đã sai về đơn thuốc chính sách của mình: nó quá ít và quá muộn. Khi ông ấy nói các chuyên gia không đồng ý, ý ông ấy là một số người nghĩ có 5% khả năng công nghệ này giết chết tất cả mọi người, một số người nghĩ là 40%, và một số là 90%.

Rõ ràng đây là một chiến lược, nhưng nếu bạn chưa biết, hoặc đang cố tình không nhận ra, thì rất dễ để kết luận rằng Demis thực sự ám chỉ đến tác động đối với việc làm, mặc dù khi ông ấy nói "một cách an toàn", ông ấy hoàn toàn không (chủ yếu) có ý đó.

Demis Hassabis: … Ở phía chân trời, chúng ta sẽ cần những biện pháp bảo vệ mạnh mẽ để duy trì quyền kiểm soát đối với các hệ thống ngày càng có tính tác nhân (agentic) và tự cải thiện đệ quy – đồng thời giải quyết các vấn đề chưa biết mà chỉ trở nên rõ ràng hơn theo thời gian.

… Tôi luôn tin vào sức mạnh của sự khéo léo và sáng tạo của con người trong việc giải quyết mọi vấn đề. Tôi tự tin rằng việc giảm thiểu các rủi ro kỹ thuật liên quan đến AI là một thách thức mà chúng ta có thể cùng nhau giải quyết, nhưng chỉ khi chúng ta cho phép mình có thời gian và không gian để thực hiện đúng bước đi quan trọng tiếp theo này. Hiện tại, với tư cách là một lĩnh vực và một xã hội rộng lớn hơn, chúng ta đang không làm điều đó.

Ông ấy làm rõ rằng một phần của việc này là mang lại cho chúng ta các lựa chọn, bao gồm cả việc giảm tốc độ.

Điểm mạnh của cách tiếp cận này là nó tập trung vào kỹ thuật, đồng thời hỗ trợ đổi mới và khuyến khích hành vi có trách nhiệm. Nó được thiết kế để bắt kịp với sự tăng tốc của lĩnh vực này và thích ứng với những rủi ro lớn nhất khi chúng được xác định, và có thể được tăng cường nếu mức độ nghiêm trọng của tình hình đòi hỏi, bao gồm cả việc phối hợp giảm tốc độ phát triển giữa các Frontier Labs nếu thấy cần thiết.

Demis giữ cho nó ngắn gọn, không đưa ra nhiều chi tiết. Trong phạm vi mà ông ấy đã đưa ra một đề xuất, đó có vẻ là một đề xuất tốt. Nó chắc chắn là một sự cải thiện ở mức biên.

Jack Clark (Anthropic): Tại thời điểm này, mọi người ở vị trí tiên phong của AI đều đồng ý rằng các bên thứ ba nên kiểm tra các hệ thống AI và sử dụng chúng để phát triển các tiêu chuẩn đưa vào chính sách - thật tuyệt vời khi thấy @demishassabis đưa ra một khung làm việc để thực hiện điều này!

Samuel Hammond: Thật đáng kinh ngạc khi thấy ban lãnh đạo tại Google, Anthropic, OpenAI và Microsoft đều khá độc lập trong việc gióng lên hồi chuông cảnh báo về một sự tăng tốc công nghệ sắp xảy ra.

Vì vậy, tôi xếp bài viết này và yêu cầu của nó vào mục "những gì tối thiểu bạn có thể làm", như một lời khen ngợi cao quý.

Tôi đồng ý với Peter Wildeford rằng mặc dù tốt hơn là không có gì, nhưng FINRA không phải là một mô hình tuyệt vời ở đây, với nguy cơ cao về việc bị các cơ quan quản lý thao túng (regulatory capture), và không phải là sự thay thế cho hành động đầy đủ của chính phủ. Bạn cần một SEC cho FINRA của mình. Điều đó không có nghĩa là đừng tạo ra FINRA. Nó có nghĩa là bạn vẫn cần SEC.

Liệu một chế độ (ít nhất là một phần) tự nguyện như vậy, chỉ dành cho các mô hình dự định phát hành, và không có thỏa thuận ràng buộc liên quan, có đủ để giải quyết vấn đề không? Không, một lần nữa, nó chỉ tốt hơn nhiều so với việc không làm gì cả, như Peter Wildeford và nhiều người khác đã lưu ý.

Bạn không cần phải tin, như Aaron Scher và Connor Leahy bên dưới, rằng chỉ có một sự dừng lại hoàn toàn mới là đủ ở đây, để biết rằng chúng ta còn một chặng đường dài phía trước. Các tuyên bố của Demis ở đây, nếu bạn biết chúng thực sự có nghĩa là gì, ngụ ý một mức độ nguy hiểm và cấp bách không được phản ánh trong đề xuất.

Eli Tyre: > Ban đầu, các Frontier Labs sẽ tự nguyện chia sẻ các mô hình với Cơ quan Tiêu chuẩn để xem xét tối đa 30 ngày trước khi phát hành.

Liệu đề xuất này chỉ nhằm giải quyết các rủi ro từ các mô hình mà các công ty dự định phát hành? Nếu một công ty phát triển một mô hình tiên phong và không bao giờ phát hành nó, chỉ triển khai nội bộ để phát triển các khả năng AI mạnh mẽ hơn nữa, liệu họ có được miễn trừ khỏi chương trình giám sát này không?

Connor Leahy: Mặc dù @demishassabis đúng khi nói rằng chúng ta cần hành động khẩn cấp để giải quyết các rủi ro khi chúng ta tiến gần đến AGI (và siêu trí tuệ, tôi xin bổ sung), phản ứng đúng đắn đối với các mối đe dọa không phải là một "tổ chức tự quản lý".

Chúng ta cần cấm siêu trí tuệ, không phải trao quyền quản lý cho ngành công nghiệp.

Aaron Scher: … Mối đe dọa tuyệt chủng, "chỉ còn vài năm ngắn ngủi", "gấp 10 lần Cách mạng Công nghiệp" — đây không phải là những chỉ số hướng tới việc "hãy đánh giá các mô hình để hiểu khả năng của chúng và có các tiêu chuẩn an toàn tự nguyện". Chúng ta cần lùi lại, chúng ta cần dừng việc tạo ra ASI.

Điểm 2: Tôi đồng ý với trích dẫn đính kèm rằng chúng ta cần nhiều thời gian hơn. Nhưng tôi nghĩ sự lạc quan của Demis chỉ là một cảm giác, không phải là cơ sở đáng tin cậy cho các dự đoán. Rob Miles nói điều này hay nhất trong video này, nếu một tiểu hành tinh hướng về phía trái đất 200 năm trước, chúng ta sẽ chỉ chết thôi 🤷

Điểm 3: Như những người khác đã chỉ ra, không rõ liệu đề xuất này có làm giảm rủi ro từ việc triển khai nội bộ hay không (nó dường như tập trung vào triển khai công khai và kiểm tra trước khi triển khai), nhưng triển khai nội bộ mới là nơi chứa đựng phần lớn rủi ro.

Điểm 4: Tôi không nghĩ cơ quan được đề xuất có thể thực sự ban hành, xác minh và thực thi việc giảm tốc độ; có sự mơ hồ về những gì là tự nguyện. Một lần nữa, tôi nghĩ chúng ta cần một hiệp ước quốc tế dài hạn và thực sự lùi lại, không chỉ là chậm lại một chút.

Timothy Lee không đồng ý với lý thuyết cho rằng chúng ta đã khám phá ra hơn 10% giá trị công nghệ sẵn có từ trí tuệ và thông tin vượt trội vào năm 1945, theo trọng số mức sống. Tôi không nghĩ đó là cách duy nhất để đo lường tác động. Nếu có, thì nó phụ thuộc vào việc bạn có ý định tại một thời điểm nhất định hay trong suốt cuộc đời, và bạn đang hạn chế trải nghiệm đó ở mức độ "vẫn là con người" như thế nào.

Xét về trải nghiệm sống từng khoảnh khắc như một thực thể cơ bản là con người, được đo lường theo cách chúng ta làm cho chất lượng mỗi năm trong phép đo QALY, nếu bạn giả định một tuổi thọ và con đường lão hóa khá cố định, tôi nghĩ có khả năng chúng ta đã đi được hơn 10% chặng đường đến mức tối ưu. Tuy nhiên, tôi sẽ chọn phương pháp chữa lão hóa và bệnh tật, cộng với internet (và máy tính, điện thoại) mà mọi người đánh giá thấp một cách đáng kể, cộng với việc không phải làm một công việc như những người năm 1945, hơn tất cả những gì đã có trước đây, với một biên độ rất rộng, chưa nói đến những trải nghiệm siêu nhân (transhumanist) đầy đủ. Có điều gì đó về thiên đường và Trái đất và triết lý của bạn, ngay cả khi mọi thứ vẫn tương đối "bình thường" sau đó.

Trong khi nếu chúng ta chỉ nhìn vào các con số GDP thuần túy? Điều đó có vẻ rất khả thi.

Noah Smith: Cách mạng Công nghiệp lần thứ hai kéo dài khoảng 100 năm -- từ 1870 đến 1970. Trong thời gian đó, mức sống ở Hoa Kỳ đã tăng gấp năm lần.

Gấp 10 lần Cách mạng Công nghiệp trong 1/10 thời gian sẽ là mức tăng 50 lần về mức sống trong 10 năm -- tốc độ tăng trưởng GDP hàng năm là 48%.