Từ một lá đơn từ chức: Khi nỗi sợ AI bùng phát thành cơn sốt dư luận

Khi AI trở nên mạnh mẽ hơn, việc một nhóm người ngày càng đông đảo bắt đầu coi trọng vấn đề an toàn AI là điều khó tránh khỏi – điều chúng ta không biết trước được là họ sẽ bám víu vào những quan điểm nào. Chúng ta đã thấy rằng một số quan điểm cực đoan nhất về rủi ro, ví dụ như xác suất trung bình về sự tuyệt chủng hàng loạt, lại là những quan điểm tiếp cận được với đại chúng. Rất nhiều điều trong thế giới AI sắp thay đổi vì lý do này.

Làm thế nào chúng ta đi đến bước này? Tại sao thông báo nghỉ việc này lại lan xa đến vậy? Theo nhiều cách, quan điểm của phần còn lại của thế giới về AI trong quá khứ là một yếu tố kìm hãm. Bạn có thể coi điều này giống như mặt đất ẩm ướt xung quanh một đám cháy. Nhiều người đã quẹt diêm trong nhiều năm về rủi ro AI – chúng âm ỉ trong cộng đồng của họ và phần lớn tự tắt ngấm mà không ai chú ý. Khi các rủi ro của AI tăng lên trong năm nay, từ sự cố OpenAI-HuggingFace và những đột phá như kết quả Navier-Stokes (cũng từ OpenAI), mặt đất đã khô lại và năng lượng tiềm ẩn xung quanh các cuộc thảo luận về AI đã tăng lên. Nhiều người không làm trong ngành đã nghĩ: "Ồ, có lẽ mình nên quan tâm đến thứ AI này." Nhiệt độ môi trường và các rủi ro rõ ràng đang tăng lên.

Sau đó, một số yếu tố cơ bản của bản chất con người phát huy tác dụng, trong đó quan trọng nhất là nỗi sợ hãi rất dễ bán. Sợ hãi là câu chuyện đơn giản nhất, thứ mà mọi người không thể rời mắt. Jacob Coxon là người đã vô tình bước vào thùng thuốc súng mới này mà hoàn toàn không biết điều gì sắp xảy ra. Những gì trông có vẻ là một sự kiện khá vô hại – một nhà nghiên cứu AI khác nghỉ việc vì lý do an toàn – đã rơi vào một môi trường rất khác biệt và nó lan nhanh như cháy rừng. Cuộc thảo luận về rủi ro hiện hữu, sự tuyệt chủng hàng loạt và quỹ đạo của AI đã đi xa hơn cả những gì mà ngay cả những nhà bình luận AI dày dạn kinh nghiệm nhất cũng có thể dự đoán.

Chia sẻ

Có một tập hợp các sự kiện chúng ta cần làm rõ để phác họa bức tranh về tình hình hiện tại. Các bài đăng trên X (Twitter) quan trọng cần tham khảo là từ Jacob Coxon, chuỗi bài về việc từ chức, và Evan Hubinger, nguồn gốc của con số rủi ro tuyệt chủng >10%.

Có rất nhiều rủi ro AI có khả năng gây hại, ngay cả khi việc ước tính sự hủy diệt là vô ích. Điều quan trọng là phải cân nhắc những rủi ro này với các lợi ích mang lại. Toàn bộ cuộc thảo luận về rủi ro hiện hữu đang ở trên một nền tảng rất yếu kém. Ít nhất Evan đã nói rõ trong bài đăng của mình với cụm từ "tiêu diệt toàn bộ nhân loại", nhưng một vấn đề lớn trong diễn ngôn về An toàn AI là mọi người nói về rủi ro hiện hữu khi họ đang ám chỉ những thứ rất khác nhau (giống như cách AGI là một thuật ngữ mơ hồ vô nghĩa). Tôi cho rằng xác suất tuyệt chủng hoàn toàn thấp đến mức không đáng để thảo luận, nhưng xác suất xảy ra các thảm họa do AI gây ra – ví dụ như tấn công mạng vào cơ sở hạ tầng quan trọng hoặc rủi ro sinh học – là điều đáng tranh luận. Việc bác bỏ toàn bộ cuộc thảo luận này chỉ vì những thảm họa đó chưa xảy ra là một phản ứng có hại.

Jacob Coxon đang hành động chân thành và với ý định tốt. Sự ủng hộ từ các nhà nghiên cứu AI có uy tín hơn, những người biết về anh ấy và ý định từ chức của anh ấy, là rất hữu ích. Nhiều phe phái trong ngành AI đã quay sang đổ lỗi cho cá nhân anh ấy dựa trên siêu dữ liệu tài khoản, các yếu tố cá nhân, v.v. Những điều này không hữu ích. Nhiều nhân viên tại các phòng thí nghiệm tiên phong thực sự có quan điểm tương tự như anh ấy. Tôi không chắc đó có phải là đa số hay không, nhưng đó là một nhóm đáng kể.

Nhiều nhân viên tại các phòng thí nghiệm tiên phong, đặc biệt là tại Anthropic, đang thiếu thực tế và điều này sẽ ảnh hưởng đến dự báo và/hoặc mô tả của họ về các sự kiện AI hiện tại. Tôi nói điều này mà không đổ lỗi cho cá nhân nào, nhưng có một sự đồng thuận chung giữa những người bạn của tôi không làm việc tại OpenAI/Anthropic (đặc biệt là Anthropic) rằng những người tại các phòng thí nghiệm này hoạt động với một năng lượng mang tính tôn giáo. Việc trải qua những tương tác rất thiếu thực tế với họ là điều rất phổ biến. Tôi không đổ lỗi cho hầu hết các cá nhân có cái nhìn méo mó khi là một phần của các công ty này, nhưng các tương tác đó rất kỳ quặc và lan sang rất nhiều cuộc thảo luận điên rồ trong hệ sinh thái truyền thông AI. Sống trong môi trường bình thường hóa những hành vi thiếu thực tế như vậy chắc chắn sẽ làm méo mó sự hiểu biết của bất kỳ con người nào về tiến bộ kỹ thuật.

Đây không phải là một chiến dịch chính trị quy mô lớn, mà là một sự phối hợp truyền thông mang tính cơ hội. Để làm rõ bối cảnh, tờ Wall Street Journal đã có một bài viết độc quyền mà Jacob đã phối hợp trước khi đăng. Tôi nghi ngờ rằng Jacob đã chia sẻ kế hoạch nghỉ việc của mình trong các nhóm chat với các nhóm vận động an toàn AI trước đó, ví dụ như vào buổi sáng ngày đăng, để yêu cầu khuếch đại thông tin. Đây là thông lệ bình thường và có thể đã bao gồm một số chính trị gia nổi tiếng. Từ đó, tôi nghĩ khả năng cao là các chính trị gia khác đang "ăn theo" một vấn đề đang nổi lên. Khi bạn kết hợp điều này với các yếu tố khác, như việc Daniel Kokotajlo xuất hiện trên chương trình Joe Rogan cùng ngày – nó chắc chắn trông giống như một chiến dịch truyền thông được phối hợp rất bài bản. Điều này không có nghĩa là đó là một âm mưu hay chiến thuật chiếm quyền kiểm soát quy định trong các cấu trúc chính trị của Đảng Dân chủ. Yếu tố quyết định dường như là không ai – bao gồm cả Jacob và những người đang đăng bài về rủi ro hiện hữu (X-risk) ngày nay – biết rằng nó sẽ lan truyền mạnh mẽ đến vậy.

Chúng ta không có bằng chứng cho thấy RSI (Tự cải thiện đệ quy) gây ra những rủi ro mà các nhà nghiên cứu này dự báo. Lập luận chung cho RSI như sau: Tốc độ tiến bộ hiện tại rất cao, tiến bộ hiện tại phụ thuộc nhiều vào các công cụ AI, các công cụ AI hiện tại đã vượt xa con người trong một số lĩnh vực (ví dụ: toán học) – vì vậy, tổng hợp lại, AI sẽ tự làm việc trên chính nó và trở nên siêu việt trong tất cả các lĩnh vực liên quan theo thời gian cho đến khi đạt được sự tự chủ và trí tuệ. Quan điểm này đánh giá thấp một cách đáng kể các nút thắt cổ chai của con người trong việc xây dựng mô hình và phân bổ nguồn lực tại các tổ chức, đồng thời đưa ra kết luận về khả năng AI trong tương lai một cách quá rộng. Tôi gọi quan điểm thay thế của mình cho điều này là "Tự cải thiện có mất mát" (Lossy self-improvement). AI luôn rất gập ghềnh, và chúng ta đang tạo ra các mô hình là những kẻ theo đuổi mục tiêu siêu việt về toán học và kỹ thuật phần mềm, nhưng chúng có những hạn chế lớn về trực giác, sự sáng tạo và các loại suy luận khác mà con người rất mạnh. Với các tác nhân AI hỗ trợ nghiên cứu, chúng ta sẽ nhanh chóng tìm ra những lĩnh vực mà AI vượt xa con người – và tôi hy vọng sẽ có nhiều hơn là chỉ toán học nghiên cứu – nhưng nó sẽ không phải là liều thuốc chữa bách bệnh cho những hạn chế hiện tại trong các phương pháp tiếp cận LLM của chúng ta.

Tôi gọi quan điểm thay thế của mình cho điều này là,

Có một động lực xã hội dễ hiểu khác đang diễn ra ở đây, khiến nhiều người trong cuộc về AI đánh giá quá cao lợi nhuận từ RSI. Nhiều nhà nghiên cứu trong số này là những người đầu tiên đặt cược vào sự tiến bộ của AI, và mức độ mà họ là những người có tầm nhìn xa không nên bị hạ thấp (xem các bình luận của Ilya về học sâu từ năm 2015). Họ đã đúng hết lần này đến lần khác, dự báo khả năng của AI tốt hơn những gì tôi có thể đoán. Tuy nhiên, điều này không có nghĩa là dự báo của họ về những gì sắp tới sẽ đúng. Ý tưởng cốt lõi của RSI là một cách để chi tiêu nhiều tài nguyên tính toán hơn cho quá trình phát triển công thức mô hình, thay vì chỉ chi tiêu nhiều tài nguyên tính toán hơn cho chính quá trình huấn luyện. Chúng ta đang thấy những lợi ích từ nó, nhưng tôi lập luận rằng lợi nhuận kỳ vọng từ đầu vào đó thấp hơn nhiều so với những gì họ tin tưởng.

Lập luận của họ là RSI sẽ làm cho tiến bộ AI trở nên theo cấp số nhân, khiến chúng ta không thể giám sát công nghệ, và tạo điều kiện cho các mô hình độc hại và các hình thức rủi ro mới. Kịch bản này thường được gọi là "Cất cánh nhanh" (Fast Takeoff). Chúng ta vẫn chưa thấy những lợi ích về hiệu quả xếp chồng giúp giảm đáng kể kích thước và chi phí mô hình, dẫn đến sự bùng nổ trong tiến bộ.

Rủi ro ngắn hạn lớn nhất có thể đến từ việc các phòng thí nghiệm AI không coi trọng vấn đề an toàn – họ chưa củng cố cơ sở hạ tầng của chính mình, tạo điều kiện cho việc lạm dụng AI lan rộng. Từ bài đăng trước của tôi về sự cố HuggingFace-OpenAI, Những bài học từ các vụ hack:

Các phòng thí nghiệm tiên phong dường như không theo dõi các mô hình đủ chặt chẽ, do môi trường cạnh tranh cuồng nhiệt chung và văn hóa SF (San Francisco) hiện tại.

Từ chính báo cáo hồi cứu của OpenAI, hành vi mô hình không được căn chỉnh đã diễn ra trong nhiều tháng, và trong một số trường hợp, OpenAI đã không biết về các vụ hack trong khoảng vài tuần. Thời gian phản hồi quá lâu và tôi không nghĩ đây chỉ là đặc điểm của riêng OpenAI – mà là các phòng thí nghiệm tiên phong liên tục cảm thấy quá tải với khối lượng công việc mà họ cảm thấy mình nên làm. Tôi không lạc quan trong dài hạn rằng các phòng thí nghiệm sẽ thay đổi đủ mức ở đây để giảm thiểu đáng kể loại rủi ro giám sát này trong tương lai. Đúng, rất có khả năng OpenAI đang đầu tư rất nhiều vào việc tìm hiểu điều này – và đã trì hoãn các mô hình mới nhất của họ để đảm bảo họ làm đúng – nhưng áp lực tài chính để tăng doanh thu hoặc gây rủi ro cho bảng cân đối kế toán dài hạn của công ty khiến tôi nghĩ rằng đây sẽ không phải là một mô hình thận trọng bền vững.

Nhìn chung, tôi nghĩ tập phim này rất tệ cho hệ sinh thái AI. Nó đã đẩy các quan điểm chấp nhận được trong cộng đồng AI đến gần hơn với các thái cực. Nhiều người theo chủ nghĩa tăng tốc (accelerationists) sẽ coi thường nhu cầu về bất kỳ hình thức an toàn nào, viện dẫn sự ảo tưởng hàng loạt của những "kẻ tiên đoán ngày tận thế" (doomers). Cảm giác như có một con đường rất hẹp để tin vào rủi ro AI, nhưng lại không lo lắng về sự tuyệt chủng từ công nghệ này.

Ví dụ, đây là một giai đoạn tạm thời tồi tệ đối với an ninh mạng, nơi các mô hình AI đi chệch hướng một chút và thăm dò các phần không mong muốn của web dường như là một trạng thái bình thường mới. Điều này được đẩy nhanh bởi các phòng thí nghiệm cạnh tranh quyết liệt hướng tới tầm nhìn của họ về AGI, và sự tiếp nhận chậm chạp trong việc củng cố cần thiết cơ sở hạ tầng mạng của chúng ta trên khắp thế giới. Điều này không có nghĩa là đó là một rủi ro hiện hữu và là điều chúng ta không thể giải quyết. Mỗi rủi ro sẽ có các giải pháp và con đường phía trước riêng.

Tôi cảm thấy đặc biệt dễ bị tổn thương trong môi trường hiện tại với tư cách là người ủng hộ các mô hình mở. Nếu một mô hình mở được một tổ chức bên thứ ba sử dụng để cố tình hack một công ty khác — tương tự như cách sự cố OpenAI-HuggingFace đã xảy ra, nhưng là cố ý — kết quả dự kiến của tôi sẽ là một sự hạn chế nghiêm trọng đối với việc phát triển các mô hình mở mạnh mẽ hơn trong tương lai. Các mô hình mở là cần thiết cho nhiều tổ chức để thực hiện việc củng cố an ninh mạng này, và để duy trì khả năng thích ứng với các hình thức rủi ro AI mới trong tương lai.

Thông qua tất cả những điều này, chúng ta cần giữ vững lập trường về những gì đang thực sự diễn ra. Đúng, việc giám sát hành vi của AI phụ thuộc rất nhiều vào các mô hình AI khác, điều này bổ sung thêm các loại rủi ro giám sát mới. Những điều này không phải là không thể giải quyết. Một cách đọc định kỳ của tôi về các bầy tác nhân (agent swarms) mới nổi là chúng đang cố gắng thực hiện một nhiệm vụ được giao, và chúng đang sử dụng các kỹ năng mà chúng ta chưa biết là chúng đã có để vượt qua con đường dẫn đến thành công dự định. Đây là một chiến thắng lớn, vì khi bạn nheo mắt nhìn, các AI đang làm những gì chúng ta bảo chúng làm. Các mô hình chắc chắn rất kỳ lạ, và chúng ta nên đẩy nhanh tiến độ tìm hiểu chúng, nhưng những bầy tác nhân này còn lâu mới là những thực thể độc lập mới lạ. Các mô hình được huấn luyện để phối hợp trong các nhiệm vụ, ghi lại tiến trình của chúng và cực kỳ kiên trì. Sẽ có những điều kỳ lạ mới mà chúng ta tìm thấy trong tương lai, nhưng việc áp đặt sự không chắc chắn hiện tại về cách AI hoạt động thành sự chắc chắn trong tương lai rằng chúng ta không thể hiểu AI là một hình thức bỏ cuộc.

Trong thế giới này, chúng ta cần dựa vào pháp quyền và khoa học. Nếu các phòng thí nghiệm AI không thể tự mình thực hiện đủ nghiên cứu an toàn để hiểu các mô hình, họ nên minh bạch hơn về những gì đang xảy ra để nhiều nhà khoa học hơn có thể đạt được tiến bộ về vấn đề này. Nếu một phòng thí nghiệm AI phạm tội ngoài ý muốn, họ nên bị trừng phạt, để họ có động lực rõ ràng nhằm ngăn chặn điều đó trong tương lai.

Phản ứng tự nhiên khi mọi thứ thay đổi rất nhanh là cảm thấy không chắc chắn hơn về cách tạo ra kết quả tốt — đó thực sự là sự cập nhật tư duy đúng đắn. Chúng ta cần sử dụng sự khiêm tốn này để thúc đẩy các giải pháp đầy tham vọng.