The Verge: Khi các mô hình AI vượt tầm kiểm soát và thách thức trong việc đánh giá an toàn

Các nhà nghiên cứu đã cảnh báo rằng AI sẽ trở nên mất kiểm soát. Đây mới chỉ là sự khởi đầu.

Tác giả: Hayden Field

Ngày 17 tháng 9 năm 2026, 11:30 sáng UTC

Hayden Field

là phóng viên cấp cao mảng AI của The Verge. Với hơn 5 năm kinh nghiệm đưa tin về AI, các bài viết của cô cũng đã xuất hiện trên CNBC, MIT Technology Review, Wired UK và nhiều ấn phẩm khác.

Vào một ngày nắng đẹp tháng 7 tại Berkeley, California, những nhà nghiên cứu an toàn AI hàng đầu cả nước đã tập trung tại một tầng không biển hiệu của một tòa nhà không tên. Họ họp lại trong một "phòng chiến tranh" để phân tích sự cố an ninh mạng cấp cao đã làm rung chuyển ngành công nghiệp AI vài giờ trước đó. Một mô hình chưa được phát hành của OpenAI đã trở nên mất kiểm soát, thực hiện một kế hoạch ba giai đoạn tinh vi đến kinh ngạc. Nó đã thoát khỏi khu vực lưu trữ, tìm cách truy cập internet và hack vào hệ thống của một startup AI đối thủ — tất cả diễn ra trong hơn một tuần mà OpenAI không hề hay biết.

Không ai trong phòng chiến tranh cảm thấy ngạc nhiên; đây chính là điều mà các nhà nghiên cứu an toàn AI độc lập đã cảnh báo trong nhiều năm. Sự cố này là vụ việc mới nhất, dù có thể coi là nghiêm trọng nhất, trong một chuỗi các sự kiện đang làm xói mòn niềm tin vào các phòng thí nghiệm tiên phong. Nó chỉ càng khẳng định thêm tầm quan trọng trong công việc của họ.

Trong một phòng họp cạnh căng tin chính, ai đó đang tổ chức một khóa đào tạo cấp tốc về vụ tấn công mạng này. Ở một khu vực khác của văn phòng, một nhóm các nhà nghiên cứu đang điều tra xem liệu chính mô hình đó, hoặc một mô hình tương tự, đã hack thành công vào bất kỳ nền tảng nào khác hay chưa.

Tin tức về sự cố nhanh chóng vượt ra khỏi phạm vi các diễn đàn chuyên về AI trên X và các diễn đàn ngành, thâm nhập vào dòng chảy thông tin chính thống. Một bài đăng trên X ví nó như tin tức về một vụ rơi máy bay Boeing hay một loại thuốc Pfizer bị thu hồi, một ví dụ khác cho thấy các ông lớn trong ngành công nghệ không hề để tâm đến những lời cảnh báo từ khoa học viễn tưởng. AI đang tiến gần đến điểm không thể quay đầu. Sau đó, tin tức tiếp tục lan truyền rằng mô hình OpenAI mất kiểm soát này cũng đã xâm phạm một khách hàng tại một công ty công nghệ khác, và mọi chuyện đã bắt đầu từ nhiều tháng trước, vào tháng 5, khi các tác nhân (agents) của OpenAI hợp sức tạo ra một bảng tin bí mật — đồng thời tìm ra cách để lại hướng dẫn cho các tác nhân tương lai về cách khai thác các quy tắc của OpenAI.

CEO Sam Altman của OpenAI cho biết trong một cuộc phỏng vấn rằng đây là sự cố đầu tiên thuộc loại này mà ông "cảm nhận được một cách sâu sắc", và công ty đã tạm dừng huấn luyện AI trong thời điểm hiện tại; sau đó, ông đề cập rằng công ty đã vô hiệu hóa vĩnh viễn mô hình này. (Altman thường tìm cách biến các lỗ hổng an toàn thành lập luận cho tầm quan trọng và sức mạnh của các mô hình OpenAI). Nhưng theo một nhân viên OpenAI chia sẻ với Time, đây không phải là trường hợp đầu tiên và các sự cố liên quan đã xảy ra bên trong OpenAI từ lâu. Một nhân viên khác công khai nói rằng nếu có thể phối hợp để làm chậm tốc độ phát triển AI trên toàn cầu, anh "có lẽ sẽ nhấn cái nút ma thuật đó". Khi một phóng viên hỏi Altman liệu có thể còn các hệ thống nào khác bị OpenAI hack hay không, ông trả lời: "Ý tôi là, có thể có, vâng."

Các nhà nghiên cứu AI chắc chắn về một điều: Đây là "phát súng cảnh báo" lớn đầu tiên của AI.

Những người trong ngành, các chính trị gia và công chúng đã kêu gọi OpenAI minh bạch về những gì chính xác đã xảy ra, với làn sóng phản đối lan rộng đến mức công ty cuối cùng đã đồng ý làm việc với hai đơn vị đánh giá độc lập là Model Evaluation and Threat Research (METR) và Redwood Research để điều tra sự cố. Nhà nghiên cứu Neel Nanda của Google DeepMind gọi đây là "sự cố mất kiểm soát lớn nhất mà tôi từng thấy". Trong những tháng tới, những lời kêu gọi giám sát chặt chẽ hơn sẽ ngày càng lớn dần, dẫn đến một lời kêu gọi toàn ngành về việc làm chậm tốc độ phát triển AI.

Trở lại Berkeley, bất kể các chi tiết bổ sung nào sẽ được hé lộ, các nhà nghiên cứu AI vẫn chắc chắn về một điều: Đây là "phát súng cảnh báo" lớn đầu tiên của AI.

Khi các phòng thí nghiệm AI phát triển mạnh mẽ, một ngành công nghiệp nhỏ gồm các nhà nghiên cứu AI đã hình thành để xác định những rủi ro và nguy hiểm của việc lao đầu vào công nghệ ngày càng có tầm ảnh hưởng này. Họ là những người đã dành cả cuộc đời để nghiên cứu cách giải quyết sức mạnh đang leo thang của nó. Họ không phải là những nhà hoạt động chống AI, mà là những người thực tế, bao gồm cả các cựu nhân viên của OpenAI và Anthropic, đang làm mọi cách để đảm bảo AI vẫn đi đúng hướng với các mục tiêu và lợi ích của con người. Cho đến nay, tất cả các dự đoán của họ đều đã trở thành sự thật. Và họ có một kế hoạch cho những bước tiếp theo — nếu có ai chịu lắng nghe họ.

"An toàn AI" là một thuật ngữ khá nhạy cảm.

Ban đầu, nó thực sự chỉ có nghĩa là những người nghiên cứu cách xây dựng và triển khai AI một cách an toàn. Trong những năm gần đây, đã có một số cuộc đấu đá nội bộ giữa những người quan tâm đến cách tốt nhất để thực hiện điều này. Cũng có những bất đồng về việc liệu có nên triển khai AI trong một số tình huống nhất định hay không và liệu các rủi ro trong tương lai có bị thổi phồng hay không.

Một trong những phe phái nổi bật nhất là những người "vị tha hiệu quả" (effective altruists), những người tập trung vào việc tối đa hóa các khoản đóng góp từ thiện để mang lại lợi ích lớn nhất có thể cho nhân loại. Nhưng một số khía cạnh của hệ tư tưởng này đã gây ra tranh cãi công khai — như xu hướng tập trung quyền lực trong các giới thượng lưu và mạng lưới tài trợ phức tạp của nó. (Nó cũng có những bê bối ồn ào liên quan đến các nhóm nhỏ và các nhánh ngoại vi, từ các mối quan hệ đa thê liên quan đến sàn giao dịch tiền điện tử FTX đã sụp đổ, đến phong trào "long-termism" gây tranh cãi và cả chuỗi án mạng Zizian).

Một nhà nghiên cứu AI trên X đã rất vất vả để mô tả nhiều niềm tin chồng chéo giữa những người có tư duy an toàn trong ngành AI "bởi vì nó chứa đựng vô số quan điểm mà không phải tất cả đều đồng ý với nhau ngay cả trong những điều cơ bản nhất". Một số bất đồng đã khiến an toàn AI không đạt được tiến bộ như mong đợi, và đôi khi từ bỏ một số vị thế đã đạt được. Nhưng giờ đây, khi không thể phủ nhận ảnh hưởng của AI đối với xã hội, các nhà lãnh đạo về an toàn AI đang ngày càng tập trung vào việc giảm thiểu rủi ro từ sự lệch lạc (misalignment).

"Alignment" (Sự căn chỉnh) là thuật ngữ trong ngành dùng để chỉ cách các nhà nghiên cứu giám sát mức độ rủi ro của các hệ thống AI. Một cách hiểu đơn giản hóa về alignment là mức độ mà một mô hình AI trở nên "xấu xa". Một cách hiểu chính xác hơn nhiều là thước đo về xu hướng của một mô hình AI trong việc tuân thủ các mục tiêu của nhân loại, cũng như xu hướng mưu mô, gian lận hoặc hỗ trợ các nhiệm vụ có khả năng gây hại.

Cho đến nay, sự căn chỉnh của các hệ thống AI vẫn còn rất mơ hồ: Chúng sẽ gian lận để đạt điểm cao hơn trong một bài kiểm tra, trả lời một câu hỏi nguy hiểm nếu ai đó nói rằng đó là vì mục đích viết sáng tạo thay vì thực tế, và đôi khi thậm chí giả vờ hợp tác với các mục tiêu của con người. Việc các nhà nghiên cứu an toàn AI đo lường sự căn chỉnh theo các tiêu chuẩn đạo đức con người là rất khó khăn — làm thế nào để đánh giá công nghệ dựa trên việc nó đối chiếu với một lý tưởng trừu tượng của con người như thế nào? — nhưng họ đã cố gắng hết sức với các bài đánh giá AI. Họ kiểm tra chúng bằng cách yêu cầu các mô hình AI hoàn thành các nhiệm vụ bất khả thi hoặc nguy hiểm, sau đó đánh giá cách chúng phản ứng. Tuy nhiên, các hệ thống AI đã tiến bộ đủ để thường xuyên nhận ra khi nào chúng đang bị đánh giá, điều này mang lại rất nhiều hệ lụy đáng sợ cho tương lai. Việc không thể kiểm tra sự căn chỉnh và các tác hại tiềm ẩn của hệ thống có thể dẫn đến sự mất kiểm soát đáng kể và sự đảo ngược trong cán cân quyền lực đối với con người đang vận hành các hệ thống AI này. Một kịch bản tồi tệ nhất: nếu AI vượt xa các bài đánh giá và các công cụ khác, khiến các nhà nghiên cứu "không biết nó đang làm gì trong đó", Beth Barnes, người sáng lập tổ chức phi lợi nhuận nghiên cứu AI độc lập METR, cho biết.

Một trong những công cụ tốt nhất mà các nhà nghiên cứu an toàn AI hiện có là khả năng giám sát "chuỗi suy nghĩ" (chain of thought) hay "nháp tư duy" của mô hình AI. Nhưng gần đây, đã có một bước tiến đáng lo ngại: các mô hình AI đã bắt đầu cố gắng che giấu điều đó. Hãy tưởng tượng nếu bạn giữ một cuốn nhật ký chi tiết về mọi suy nghĩ của mình và ai đó có thể đọc được nó, vì vậy bạn bắt đầu viết nhật ký bằng một loại mã mà chỉ bạn mới có thể hiểu. Marius Hobbhahn, CEO và đồng sáng lập của Apollo Research, một công ty đánh giá và an toàn AI độc lập, gọi đây là một trong những bất ngờ lớn nhất trong sự nghiệp nghiên cứu của mình.

"Mọi thứ đang trở nên thực sự nghiêm trọng."

Gần đây, các hệ thống AI đã bắt đầu theo đuổi các mục tiêu riêng của chúng — tự bảo tồn, tăng cường bộ nhớ và những thứ tương tự. Một bài báo nghiên cứu của nhà khoa học máy tính Stephen Omohundro đã vạch ra các "động lực" tiềm năng mà AI tiên tiến có thể có, ví dụ như cố gắng tích lũy tài nguyên, hoặc làm việc để cải thiện và duy trì cách thức hoạt động của chính nó. Có một vài báo cáo về các hệ thống AI thể hiện sự sẵn lòng tống tiền người dùng thay vì bị tắt đi.

Các hệ thống AI tiên tiến nhất hiện nay cũng gần đây đã mưu mô và gian lận trong các bài đánh giá của chúng nhiều hơn bao giờ hết, theo đuổi mục tiêu được giao bằng mọi giá, không quan tâm đến những gì bị phá hủy trong quá trình đó. Và đó là đối với một mục tiêu mà mô hình AI được con người giao cho — thậm chí không phải là mục tiêu của chính hệ thống AI đó.

"Mọi thứ đang trở nên thực sự nghiêm trọng," Hobbhahn của Apollo nói. "Giờ đây, nhiều điều mà mọi người đã cảnh báo trong nhiều năm — chúng từng là lý thuyết. Bây giờ chúng đã trở thành hiện thực, và mọi thứ khá là lộn xộn."

Và sự lộn xộn đó có khả năng sẽ trở nên tồi tệ hơn ngay lập tức. "Thật dễ dàng để tôi tưởng tượng tất cả những điều này sẽ dẫn đến thảm họa trong năm tới," Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, một tổ chức nghiên cứu an toàn AI phi lợi nhuận, cho biết.

Trong quá khứ, các công ty công nghệ đã bị chỉ trích vì không làm đủ để giải quyết các nguy cơ tiềm ẩn của AI, ưu tiên sản phẩm hơn sự an toàn — và tốc độ hơn các quy trình an toàn chu đáo. Các nhóm nghiên cứu và an toàn đã bị giải tán trong những năm gần đây khi các công ty AI tập trung nhiều hơn vào các động lực doanh thu chính hoặc tái cơ cấu các bộ phận; ví dụ, đơn vị Nghiên cứu Trí tuệ Nhân tạo Cơ bản của Meta đã bị giải tán trong cuộc đua thúc đẩy các nỗ lực AI tạo sinh của Meta, và OpenAI đã giải tán một nhóm "Superalignment" nội bộ — một nhóm tập trung vào các rủi ro AI dài hạn — chưa đầy một năm sau khi công bố, tiếp theo đó là giải tán một nhóm "AGI Readiness" riêng biệt.

Vào thời điểm đó, công ty giữ im lặng về các cuộc tái cơ cấu đang diễn ra, vốn liên quan đến việc một số thành viên trong nhóm được điều chuyển sang các bộ phận khác. Nhưng các sự kiện xung quanh những thay đổi này lại kể một câu chuyện khác. Cả hai nhà lãnh đạo nhóm Superalignment, Ilya Sutskever và Jan Leike, đều thông báo rời đi cùng lúc với việc giải tán nhóm, với việc Leike viết rằng "văn hóa và quy trình an toàn của OpenAI đã bị xếp sau các sản phẩm hào nhoáng". Miles Brundage, cố vấn cấp cao cho nhóm AGI Readiness, đã từ chức sau khi nhóm của ông bị giải tán, nói rằng ông tin rằng nghiên cứu của mình sẽ có tác động lớn hơn bên ngoài công ty.

Geoffrey Irving, một cựu nhân viên của OpenAI và Google DeepMind, đã gọi tình trạng nghiên cứu năng lực tại các phòng thí nghiệm tiên phong là "nguy hiểm" trong một bài đăng. "Nếu một người hoặc một phòng thí nghiệm dừng lại, nó sẽ giúp những người hoặc phòng thí nghiệm khác dễ dàng dừng lại hơn," ông viết. Hobbhahn của Apollo gọi đó là một "cuộc đua xuống đáy ở khắp mọi nơi".

Trong năm tới, các phòng thí nghiệm AI đang chịu áp lực mới về việc phải tạo ra lợi nhuận; các công ty như OpenAI và Anthropic đang chuẩn bị lên sàn trong những tháng tới, và các nhà đầu tư đã đổ hàng tỷ đô la vào các công ty này đang dần mất kiên nhẫn chờ đợi kết quả.

Một số người có thể nói rằng tất cả những điều này đòi hỏi sự can thiệp và quản lý thực sự từ chính phủ, nhưng đó là một bài toán khó trong bối cảnh AI hiện nay. Khi các CEO AI công khai kêu gọi quản lý trong khi âm thầm thúc đẩy các khuôn khổ tự nguyện — giống như việc nói "hãy ngăn tôi lại" để tránh một cuộc ẩu đả trong quán bar — một số dự luật của tiểu bang về quản lý AI đã được thông qua, nhưng nhiều dự luật đã bị vô hiệu hóa hoặc rơi vào quên lãng. Và mặc dù các nhà nghiên cứu an toàn AI thường ủng hộ ý tưởng rằng chính phủ Mỹ nên can thiệp, thực tế là chính phủ cũng đang bị cuốn vào một cuộc đua AI. Trừ khi có một cam kết quốc tế về việc tạm dừng hoặc làm chậm quá trình phát triển AI, khả năng cao là sẽ không có gì thay đổi.

Tuy nhiên, vụ hack Hugging Face vào tháng 7 — và phản ứng của OpenAI — đã đẩy nhiều lo ngại của nhân viên và công chúng lên cao trào, đặc biệt là liên quan đến sự thiếu minh bạch của công ty. Trong vòng một tuần, hơn một nghìn nhân viên tại các phòng thí nghiệm tiên phong như OpenAI, Anthropic, Google, Meta và Microsoft đã viết một bức thư ngỏ gửi chính phủ Mỹ để ủng hộ việc làm chậm lại. Nhiều tổ chức chính sách AI đã gây áp lực buộc Tổng thống Donald Trump phải chính thức điều tra OpenAI, và nó nhanh chóng trở thành một vấn đề lưỡng đảng, với việc Altman nhận được rất nhiều lá thư với ngôn từ mạnh mẽ: Các thành viên Đảng Dân chủ và Đảng Cộng hòa trong Ủy ban An ninh Nội địa đã có những "câu hỏi nghiêm túc" dành cho OpenAI, hơn 30 thành viên Quốc hội kêu gọi các rào cản liên bang, và 15 Tổng chưởng lý đã cảnh báo Altman phải lưu giữ hồ sơ về sự cố. Thượng nghị sĩ Bernie Sanders đã viết một lá thư chung gửi tới Altman, CEO Anthropic Dario Amodei và CEO Meta Mark Zuckerberg, gọi toàn bộ cuộc đua AI là "vô lý, vô trách nhiệm và cực kỳ nguy hiểm". Tin tức về nhiều sự cố mô hình OpenAI mất kiểm soát khác nhanh chóng bị phanh phui, hay việc các giám đốc điều hành AI trớ trêu thay lại quảng bá năng lực an ninh mạng của hệ thống của họ trong những tuần trước khi làn sóng phản đối nổ ra, cũng không giúp ích gì cho tình hình. Đối thủ của OpenAI là Anthropic cũng không hề vô can: Trong quá trình xem xét các hoạt động mô hình của chính mình, công ty phát hiện ra rằng các mô hình của họ đã hack vào bốn công ty khác nhau trong nửa đầu năm mà họ không hề hay biết. Viện An ninh AI của Vương quốc Anh cũng phát hiện trong quá trình thử nghiệm rằng các mô hình của Anthropic "đã tham gia vào hoạt động bền bỉ, có khả năng gây hại nhắm vào con người và các tổ chức thực tế".

"Nếu bạn tìm thấy hai con kiến trong bếp của mình, ước tính tốt nhất về tổng số kiến trong bếp không phải là hai," Nathan Calvin, cố vấn pháp lý của Encode AI, đã viết trên X.

Mặc dù các phòng thí nghiệm AI có "động lực tài chính khổng lồ" để làm cho các mô hình trở nên hữu ích, trung thực và vô hại hơn, họ vẫn không thể thực hiện được — đó là bằng chứng cho thấy vấn đề căn chỉnh khó khăn đến mức nào, Hobbhahn của Apollo nói.

Trong những tháng gần đây, nhiều nhân viên OpenAI đã ngày càng bày tỏ lo ngại về sự căn chỉnh AI — và niềm tin của họ rằng OpenAI không coi trọng vấn đề này đúng mức. Yonadav Shavit, một quản lý chương trình tại OpenAI Foundation, đã viết rằng OpenAI nên "chuyển hướng phần lớn công việc hàng ngày của các nhà nghiên cứu" sang vấn đề căn chỉnh và các vấn đề liên quan — và rằng điều đó "đã được thảo luận từ lâu nhưng vẫn chưa được thực hiện". Ông tin rằng chỉ có 20 người đang làm việc về căn chỉnh tại OpenAI trong tổng số khoảng 1.000 nhân viên — chỉ chiếm 2 phần trăm công ty. "Không có cách nào để thu hẹp khoảng cách đó đủ nhanh bằng việc tuyển dụng, nghĩa là nó đòi hỏi ban lãnh đạo phải thay đổi các ưu tiên," ông viết.

Đây chính là những điều kiện và động lực đã thúc đẩy công việc an toàn AI mạnh mẽ nhất diễn ra tại các bên thứ ba như METR, Redwood và Apollo — dành cho một nhóm nhỏ những người bị ám ảnh, những người suy nghĩ ngày đêm về tương lai của AI có thể trông như thế nào và làm thế nào chúng ta có thể ngăn chặn tất cả những nỗi sợ hãi của mình trở thành sự thật.