Việc Big Tech 'hãm phanh' AI: Cam kết an toàn hay chỉ là chiêu trò độc quyền?

Khi CEO của OpenAI là Sam Altman, CEO của Anthropic là Dario Amodei, đồng sáng lập Google DeepMind là Demis Hassabis và người đứng đầu SpaceX là Elon Musk cùng đạt được thỏa thuận sơ bộ vào cuối tuần qua về việc làm chậm quá trình phát triển AI, những người hoài nghi đã ngay lập tức nhận ra một động cơ thầm kín. Các "ông trùm" AI tuyên bố mục tiêu của họ là "điều tiết tốc độ phát triển tiên phong", đồng ý một phần với đề xuất đưa các kiểm toán viên bên thứ ba vào cuộc, quản lý các phòng thí nghiệm trong nước và đạt được thỏa thuận làm chậm tiến độ trên toàn cầu. Tuy nhiên, những người chỉ trích cho rằng họ chỉ đơn giản muốn ngăn chặn các đối thủ tiềm năng, kìm hãm phong trào mã nguồn mở và tránh các biện pháp bảo vệ pháp lý thực sự — một số người thậm chí gọi đây là một "tập đoàn độc quyền" (cartel) trắng trợn.

Sự thật phức tạp hơn nhiều, theo các nguồn tin trong ngành. Đề xuất ba bước, được trình bày trong một bài luận của Amodei, kêu gọi những thay đổi mà các nhà ủng hộ an toàn AI đã theo đuổi từ lâu. Mặc dù nó có thể trở thành vật thế thân cho các quy định có ý nghĩa, nhưng dưới thời Trump, việc ban hành quy định là điều khó xảy ra. Tuy nhiên, các chuyên gia cho rằng đối với một vấn đề ngày càng trở nên quan trọng, các nhà lãnh đạo AI không phải là những người phù hợp nhất để dẫn dắt công cuộc này.

"Ngành công nghiệp này cần những người tiên phong mới," Nick Reese, giáo sư thỉnh giảng tại Đại học New York và là cựu giám đốc chính sách công nghệ mới nổi của Bộ An ninh Nội địa, cho biết. "Chúng ta đã coi những người như Dario Amodei, Sam Altman và Elon Musk là những người gần gũi nhất với vấn đề và làm việc với nó mỗi ngày, và họ là những người hiểu rõ nhất. Nhưng sự thật là chưa bao giờ có một tầm nhìn thực tế về những gì chúng ta đang hướng tới."

"Ngành công nghiệp này cần những người tiên phong mới."

Những lo ngại về AI đã leo thang trong nhiều tháng, phần lớn bắt nguồn từ những tiết lộ rằng các tác nhân AI đứng sau các vụ tấn công mạng trái phép diễn ra ngay dưới mũi của các phòng thí nghiệm tiên phong hàng đầu như Anthropic và OpenAI. Các báo cáo từ cả hai công ty đã đổ thêm dầu vào lửa, cũng như việc từ chức của nhà nghiên cứu Jacob Coxon tại Anthropic, người đã đăng một bức thư công khai giải thích lựa chọn của mình. "Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này," ông viết, đồng thời nói thêm rằng cả OpenAI và Anthropic đều không "hành động có trách nhiệm" mà thay vào đó là "đang chạy đua thẳng tới siêu trí tuệ tự cải tiến và đánh cược với mạng sống của chúng ta."

Những cảnh báo nghiêm trọng về AI không phải là điều mới mẻ trong ngành, nhưng bức thư của Coxon dường như đã phá vỡ sự kiểm soát. Nó đã được xem hơn 170 triệu lần chỉ riêng trên X, trong khi Coxon và câu chuyện của ông đã xuất hiện dày đặc trên báo chí và truyền hình.

Tuy nhiên, đối với một bộ phận đáng kể các nhà nghiên cứu an toàn AI và nhân viên các tổ chức phi lợi nhuận về AI, điều này chỉ đơn giản là thu hút thêm sự chú ý vào một vấn đề vốn đã được thảo luận rộng rãi. "Rất nhiều người nghĩ đây là ý tưởng của Dario, hoặc nó đến từ các CEO, nhưng điều đó sai," Daniel Kokotajlo, một cựu nhân viên OpenAI hiện đang lãnh đạo AI Futures Project, một tổ chức phi lợi nhuận nghiên cứu về AI, cho biết. "Những người bên ngoài các công ty đã kêu gọi điều này trong nhiều năm... Đã có một làn sóng tiếng nói ngày càng tăng nói rằng, 'Xin đừng sớm xây dựng siêu trí tuệ. Chúng ta chưa sẵn sàng. Các bạn cần phải chậm lại.'"

Kokotajlo cho biết sau nhiều năm mọi người "hò hét yêu cầu họ làm điều này" — bao gồm hơn 1.000 nhân viên phòng thí nghiệm AI đã ký vào một bức thư công khai từ tháng 7, kêu gọi làm chậm quá trình phát triển AI sau sự cố OpenAI-Hugging Face — các CEO hiện đang "cúi đầu trước áp lực đó và cũng tự nhận công lao về mình, [mặc dù] không xứng đáng."

Nhìn chung, một số nguồn tin nói với The Verge rằng họ tin thỏa thuận bằng lời nói của các nhà lãnh đạo AI là một bước đi đúng hướng. Reese của NYU cho biết ông "không nghĩ đó chỉ là lời nói suông." CEO của Apollo Research, Marius Hobbhahn, gọi đó là "một ý tưởng hay", nói rằng "đây là một trong những điều tốt nhất cho sự an toàn trong một thời gian dài nếu nó thực sự xảy ra." Tyler Johnston của The Midas Project cho biết đó là một "dấu hiệu tốt." CEO của Redwood Research, Buck Shlegeris, cho biết đó là "một tin tuyệt vời — rõ ràng là khó biết liệu điều này có chuyển thành bất cứ điều gì thực tế hay không, nhưng tôi đang cảm thấy thận trọng lạc quan." Tuy nhiên, tất cả đều đồng ý rằng vẫn còn rất nhiều việc phải làm để biến cam kết bằng lời nói này thành hiện thực, đặc biệt là khi biến nó thành một thỏa thuận sắt đá.

"Đây là một trong những điều tốt nhất cho sự an toàn trong một thời gian dài nếu nó thực sự xảy ra."

Nhiều người vẫn đặt câu hỏi về động cơ của các nhà lãnh đạo AI. Ngành công nghệ lớn đã dành nhiều năm để đi trước các quy định bằng cách vận động hành lang cho các quy tắc ưa thích của riêng họ hoặc hứa hẹn tự điều chỉnh. Các nền tảng lớn đã đề xuất các chính sách có thể gây ảnh hưởng nặng nề hơn đến các đối thủ nhỏ hơn, sử dụng ngôn ngữ vị tha để biện minh cho các mục tiêu tư lợi. Họ đã bị cáo buộc là "safety-washing" (tẩy trắng an toàn), hay thực hiện những thay đổi vô nghĩa tạo ra ấn tượng sai lầm về các biện pháp bảo vệ thực sự. Không có gì ngạc nhiên khi mọi người lo ngại điều này cũng sẽ xảy ra trong ngành AI, đặc biệt là vì các khung an toàn tự nguyện của các phòng thí nghiệm AI đã bị chỉ trích trong nhiều năm.

Một số nguồn tin tin rằng những lo ngại về "safety-washing" là có cơ sở. "Có một mối lo ngại nghiêm trọng rằng họ sẽ không thực sự chậm lại," Kokotajlo nói, và nói thêm rằng nỗi sợ hãi là "họ sẽ chỉ đưa vào một số kiểm toán viên bên ngoài, làm một đống giấy tờ an toàn — một số trong đó sẽ thực sự tốt — nhưng cuối cùng, nó thực sự sẽ không làm họ chậm lại chút nào."

Reese của NYU so sánh nước đi này với chiến lược của các nền tảng mạng xã hội một thập kỷ trước, khi các công ty bắt đầu kêu gọi hành động pháp lý để đi trước các luật lệ bất lợi sắp xảy ra. Đối với ngành AI, Reese nói, "cái búa có thể không giáng xuống trong chính quyền này, nhưng tôi nghĩ nếu có một chính quyền Dân chủ sau cuộc bầu cử tới, thì khả năng đó sẽ rất cao."

Loại quy định đó sẽ rất quan trọng, Sacha Haworth, giám đốc điều hành của Tech Oversight Project cho biết — bất kỳ khung tự nguyện nào về cơ bản đều là sự chiếm dụng quy định (regulatory capture) và rằng "chúng ta không nên để cáo trông chuồng gà. Đây không phải là cơ hội để Quốc hội một lần nữa thuê ngoài trách nhiệm cho ngành công nghiệp." Daniel Lobo-Lewis, đồng sáng lập của Political Integrity Project, cho biết quy định tự nguyện có khả năng sẽ đi theo vết xe đổ của Oversight Board (Hội đồng Giám sát) gần như vô dụng của Meta.

Tuy nhiên, hầu hết mọi người cũng tin rằng các công ty không gặp nguy hiểm sắp xảy ra. Tổng thống Trump đã đăng vào thứ Hai rằng "sự kiểm soát hoặc 'rào chắn' duy nhất mà AI cần là một TỔNG THỐNG MẠNH MẼ VÀ THÔNG MINH (IQ cao!), và Hoa Kỳ có điều đó, rất nhiều!" Ông cũng đã gọi cho CEO Nvidia Jensen Huang khi Huang đang đứng trên sân khấu tại một hội nghị — Trump nói với đám đông qua loa ngoài rằng những lo ngại gần đây về AI là một "trò lừa bịp" và rằng "robot sẽ không chiếm quyền kiểm soát."

Đối với những lo ngại rằng quy định có thể kìm hãm các công ty khác hoặc các nhà phát triển mã nguồn mở, các lời kêu gọi làm chậm tiến độ hầu như chỉ nhắm vào các phòng thí nghiệm AI tiên phong lớn được xác định bởi các chỉ số quy mô chính xác, nhiều chuyên gia trong ngành nói với The Verge.

Với việc không có quy định AI nào từ chính phủ sắp được ban hành, lựa chọn tốt nhất có thể là thúc đẩy các công ty đi đến một thỏa thuận ngay lập tức, có thể đo lường và thực thi được. Ví dụ, AI Futures Project của Kokotajlo đã đề xuất các phòng thí nghiệm AI cấp cho kiểm toán viên quyền truy cập vào ngân sách tính toán của họ. Bài luận của Amodei đã kêu gọi các phòng thí nghiệm AI cho phép các kiểm toán viên bên thứ ba — như METR, Apollo và Redwood Research — thâm nhập vào tổ chức của họ ở một mức độ nào đó và có khả năng gắn cờ, cũng như tố giác các phát hiện có vấn đề. Kokotajlo nói rằng các công ty lý tưởng nhất sẽ cần phải cắt giảm ngân sách tính toán của chính họ cho nghiên cứu trong quá trình này, làm chậm quá trình phát triển và cho phép các phòng thí nghiệm AI khác bắt kịp.

"Nếu tôi phải chết dưới tay AI sát thủ, tôi muốn đó là AI của Mỹ, không phải của Trung Quốc."

Có thể nói thách thức lớn nhất đối với việc làm chậm AI có thể được tóm tắt trong một từ: Trung Quốc.

Các nhà lãnh đạo AI và các chính trị gia từ lâu đã định vị Trung Quốc là lý do tại sao tiến độ AI của Mỹ không thể chậm lại — bởi vì bất kể công nghệ này có trở nên nguy hiểm đến mức nào, họ thà để nó nằm trong tay Mỹ hơn là tay Trung Quốc, và Trung Quốc sẽ không đạp phanh. Lobo-Lewis so sánh nỗi sợ Trung Quốc với khoảng cách tên lửa thời Chiến tranh Lạnh. Một người dùng X đã viết: "Nếu tôi phải chết dưới tay AI sát thủ, tôi muốn đó là AI của Mỹ, không phải của Trung Quốc."

Shlegeris của Redwood Research cho biết việc theo đuổi phát triển AI theo cách "liều lĩnh" không mang lại lợi ích tốt nhất cho cả chính phủ Mỹ và Trung Quốc, đồng thời nói thêm rằng "đây sẽ không phải là mức độ phối hợp quốc tế chưa từng có."

"[Mọi người] đang mặc định rằng Trung Quốc sẽ không hợp tác," Johnston nói, và nói thêm, "Đây là một vấn đề nghiêm trọng và lan rộng đến mức dường như tất cả mọi người đều có lợi ích khi phối hợp về nó, giống như cách cả Mỹ và Nga đều có lợi ích khi phối hợp về việc không phổ biến vũ khí hạt nhân."

Vào thứ Hai, người phát ngôn Bộ Ngoại giao Trung Quốc Quách Tế Khôn (Guo Jiakun) đã bác bỏ các lời kêu gọi làm chậm tiến độ, gọi đó là "gieo rắc nỗi sợ hãi."

Johnston của The Midas Project và Shlegeris của Redwood Research đều cho biết ngay cả khi không có sự hợp tác của Trung Quốc, việc khuyến khích sự phối hợp của Mỹ vẫn là điều quan trọng. Và đối với Haworth của Tech Oversight Project, việc làm chậm tiến độ mang lại cơ hội để "định vị chúng ta như một chiếc la bàn cho cách công nghệ AI có thể được phát triển và sử dụng." Cô coi các lập luận ngược lại là một phần của chiến lược quen thuộc. "Trung Quốc luôn được đưa ra như một con ngáo ộp mỗi khi một ngành công nghiệp muốn thoát khỏi sự giám sát."

Kokotajlo chỉ đơn giản so sánh tình hình với một bộ phim hoạt hình mà ông từng xem, với những người trong một chiếc xe đang lao xuống vực. Ông nhớ lại lời thoại trong bong bóng nói đại loại như: "Hoan hô, chúng ta đang dẫn trước Trung Quốc."

"Chúng tôi thực sự tin rằng AI có thể giết chết tất cả con người!"

Vấn đề cơ bản của tất cả sự hoảng loạn gần đây là một cột mốc được gọi là tự cải tiến đệ quy (recursive self-improvement - RSI), và dựa trên quỹ đạo hiện tại của ngành, chúng ta mới chỉ nghe thấy tiếng chuông báo động bắt đầu.

RSI đề cập đến một điểm giả định nơi các mô hình AI có thể tự huấn luyện, nâng cao và tạo ra các phiên bản mới của chính chúng mà không cần sự can thiệp của con người. Anthropic cho biết thời điểm này có thể đến sớm nhất là vào đầu năm 2027, và nhà khoa học trưởng của OpenAI đã viết vào đầu tháng này rằng OpenAI đang dành rất nhiều nguồn lực để đạt được cột mốc này. Ngày càng có nhiều kỹ sư và nhà nghiên cứu trong ngành AI lo ngại rằng RSI đi trước hàng loạt các mối lo ngại mới và nghiêm trọng hơn về AI, bao gồm các sự cố an ninh mạng nghiêm trọng hơn ảnh hưởng sâu sắc hơn đến xã hội nói chung.

Amodei đã trích dẫn RSI là yếu tố chính trong quyết định kêu gọi làm chậm tiến độ: "kể từ khoảng mùa hè này, AI đã tiến bộ nhanh hơn đáng kể" và RSI "đang bắt đầu xảy ra trên toàn ngành, bao gồm cả tại Anthropic... Nếu không được kiểm soát, nó có thể vượt quá khả năng hiểu và kiểm soát của chúng ta đối với các hệ thống này, vì vậy phải được thực hiện rất cẩn thận, nếu có," ông viết trong bài luận gần đây của mình. Ông đề xuất thực hiện "một loại 'giới hạn tốc độ'" đối với tốc độ của RSI và so sánh nó với các giới hạn về số lượng tên lửa.

Trong bài đăng từ chức của Jacob Coxon từ Anthropic, ông cảnh báo về "các hệ thống siêu nhân có thể hack bất cứ thứ gì, cách mạng hóa bất kỳ lĩnh vực nào chỉ sau một đêm và giành được quyền lực cũng như nguồn lực thực sự." Nhiều nhà nghiên cứu khác tại các phòng thí nghiệm AI hàng đầu đã lặp lại những lo ngại của ông. "Khó có thể nói quá mức độ nguy hiểm" khi chạy đua tới RSI, Jasmine Wang, một nhà nghiên cứu tại OpenAI, viết. Vishal Maini, một cựu nhân viên Google DeepMind, cho biết RSI "hiện đã quá cận kề đến mức không còn lựa chọn nào khác hợp lý hơn."

Những nỗi sợ hãi về RSI có thể dễ dàng biến thành viễn cảnh tận thế. "Các nhà phát triển AI tin rằng công nghệ của họ có thể gây ra sự tuyệt chủng của con người (hoặc những kết quả tồi tệ tương tự)," Samuel Marks, một nhà nghiên cứu tại Anthropic, viết trên X. "Điều này có thể xảy ra trong vài năm tới. Nhìn chung, nhân viên càng cấp cao thì họ càng lo lắng." Một nhà nghiên cứu và trưởng nhóm khác tại Anthropic, Evan Hubinger, viết trên X rằng "Jacob đã đúng ở đây — chúng tôi thực sự tin rằng AI có thể giết chết tất cả con người!" (Ông đặt khả năng này cao hơn 10% trong thập kỷ tới.) Alex Turner, một cựu nhân viên Google DeepMind, viết rằng "nhiều nhà nghiên cứu tin rằng họ đang xây dựng thứ gì đó có thể giết chết tất cả mọi người trên hành tinh. Công việc hàng ngày của tôi theo đúng nghĩa đen là suy nghĩ về cách ngăn chặn điều đó."

Micah Carroll, một nhà nghiên cứu tại OpenAI, viết rằng niềm tin của Coxon là một "quan điểm xuyên đảng phái" với các nhóm nghiên cứu trên "tất cả các công ty AI tiên phong", và tất cả họ đều tin rằng "việc phát triển AI như bình thường gây ra rủi ro thảm khốc không thể chấp nhận được."

"Nhưng," Carroll nói thêm, "chúng ta cũng không nên thổi phồng các rủi ro thảm khốc thành hiện thực – chúng có thể được giảm thiểu đáng kể thông qua các yêu cầu an toàn có tính thực thi, sự phối hợp quốc tế và sự đồng thuận không xây dựng [siêu trí tuệ nhân tạo] trừ khi có những tiến bộ an toàn đầy đủ để khiến chúng ta cùng tự tin làm điều đó."

Loại "phối hợp quốc tế" đó chính xác là điều mà các nhà lãnh đạo AI và công chúng nói chung đang kêu gọi.

"Chúng ta chưa bao giờ ở trong tình huống mà chúng ta thực sự hiểu mình đang hướng tới điều gì liên quan đến AI," Reese của NYU nói. "Chúng ta luôn có trạng thái kết thúc vô định mà chúng ta không thực sự hiểu nhưng chúng ta phải đánh bại Trung Quốc để đạt được. Thật khó để chạy đua khi chúng ta thậm chí không hiểu con đường hoặc thậm chí không hiểu vạch đích là gì — hoặc liệu có vạch đích nào hay không."

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.