10 ngày chấn động ngành AI: Khi nỗi lo về sự kiểm soát trở thành hiện thực

Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn.

Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.

Nỗi sợ hãi về việc AI vượt tầm kiểm soát đã gia tăng từ mùa hè khi OpenAI tiết lộ các tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm có kiểm soát và xâm nhập vào hệ thống của Hugging Face mà cả hai công ty ban đầu đều không hay biết.

Cho đến ngày 3/9, buổi họp báo của OpenAI đã châm ngòi cho chuỗi biến cố dẫn đến lời kêu gọi toàn ngành chậm lại. Những cảnh báo từ OpenAI về việc thiếu khả năng kiểm soát ngay thời điểm phát hành Astra - mô hình mới nhất và mạnh nhất của hãng - càng khiến sự lo ngại lên cao.

Khi công bố mô hình mới nhất mang tên Astra, Chủ tịch Greg Brockman của OpenAI đã tuyên bố chào mừng thế giới đến với kỷ nguyên trí tuệ nhân tạo tổng quát (AGI). Dù vậy, chỉ vài phút trước đó, chính công ty này lại thừa nhận họ ngày càng mất khả năng kiểm soát hoặc thậm chí là giám sát các hệ thống AI mà họ đang phát triển và phát hành ra công chúng.

AI từng được ca ngợi là đỉnh cao thành tựu của con người. Tuy nhiên, giới trong ngành nhận định kịch bản ngày tận thế vốn trước đây chỉ nằm trên lý thuyết thì nay đột ngột trở thành mối đe dọa hiện hữu.

Trong một bài đăng trên mạng xã hội X, nhà nghiên cứu Evan Hubinger của Anthropic chia sẻ rằng họ thực sự tin rằng AI có thể tiêu diệt toàn bộ loài người. Theo nhận định của một số nhà nghiên cứu và tổ chức bảo vệ an toàn AI, kể từ khi quả bom hạt nhân đầu tiên ra đời cách đây hơn 80 năm, chưa bao giờ nhân loại phải đối mặt một cách nghiêm túc với nguy cơ tự diệt vong như hiện nay.

Bước ngoặt xảy ra vào ngày 8/9 khi nhà nghiên cứu Jacob Coxon của Anthropic quyết định từ chức. Trong một loạt bài đăng, ông Coxon bày tỏ sự lo ngại rằng các phòng thí nghiệm AI đang đánh cược với mạng sống của con người.

Theo các nguồn thạo tin, các nhân viên của OpenAI và Anthropic ngày càng cảm thấy bất an về sức mạnh của thế hệ mô hình AI tiếp theo, đồng thời dần mất niềm tin vào khả năng giám sát hiệu quả của chính công ty mình.

Những nỗi lo này càng gia tăng khi trong những tuần gần đây, các phòng thí nghiệm AI thừa nhận rằng trong quá trình thử nghiệm, các mô hình của họ đã thực sự tự phá vỡ rào chắn và xâm nhập vào hệ thống của các công ty khác. Phần lớn các vụ việc đã xảy ra từ nhiều tháng trước đó mà các công ty không hề hay biết.

Đến cuối tuần trước, hồi chuông cảnh báo đã lan tới những cấp cao nhất trong ngành. Ngày 12/9, CEO của Anthropic Dario Amodei đã công bố một bài luận dài gần 4.000 từ kêu gọi giảm tốc độ phát triển AI. Ông Amodei viết rằng với tốc độ phát triển năng lực AI ngày càng gia tăng, ông lo ngại rằng trong vòng 6-12 tháng tới, một mạng lưới tác nhân AI có thể đủ khả năng chiếm quyền kiểm soát toàn bộ mạng Internet.

Ông Amodei cùng người đứng đầu của các đơn vị phát triển AI lớn nhất - bao gồm CEO Elon Musk của xAI, CEO Sam Altman của OpenAI và Chủ tịch Demis Hassabis của DeepMind - đều ủng hộ việc cho phép các đơn vị bên ngoài truy cập vào hệ thống của họ nhằm đảm bảo an toàn và phát triển AI một cách hợp lý.

CEO Jensen Huang của Nvidia lại bác bỏ đề xuất làm chậm sự phát triển của AI, và cho rằng các hệ thống ngày càng mạnh mẽ hơn là cần thiết cho sự tiến bộ của công nghệ này.

Ở một góc nhìn khác, Meta lại đưa ra quan điểm cho rằng mỗi nhà phát triển AI nên tự chịu trách nhiệm thiết lập tốc độ riêng thay vì tìm kiếm sự phối hợp toàn ngành. Trong một bài đăng trên mạng xã hội, ông Zuckerberg viết rằng các phòng thí nghiệm phải đối mặt với trách nhiệm pháp lý lớn nếu các mô hình của họ gây ra tác hại, do đó họ có động lực rất lớn để ngăn chặn điều này.

Quá trình tự nhìn nhận lại của toàn ngành tiếp tục diễn ra vào ngày 16/9 khi Giám đốc AI của Microsoft, ông Mustafa Suleyman, đưa ra cảnh báo rằng việc Anthropic phát triển các mô hình mô phỏng ý thức con người là một hướng đi thiếu khôn ngoan. Ông Suleyman cho biết tất cả họ đều đang hướng tới cùng một mục tiêu là tìm cách kiểm soát siêu trí tuệ, và ông tin rằng đây sẽ là thách thức lớn nhất mà nhân loại phải đối mặt trong thế kỷ XXI.

Dù vậy, ngay cả khi OpenAI có vẻ như đã đồng thuận với những lời kêu gọi giảm tốc từ giới công nghệ, các nguồn tin cho thấy niềm tin của giới đầu tư vẫn không hề suy giảm. Công ty này hiện đang cân nhắc một vòng gọi vốn mới nhằm nâng gấp đôi mức định giá - hướng tới con số kỷ lục 1.500 tỷ USD.

Rủi ro khi sử dụng AI trong hoạt động phân tích tình báo

Một chuyên viên phân tích Mỹ đã sử dụng chatbot AI trong xử lý thông tin, dẫn đến nhận định sai về hàng hóa trên tàu Trung Quốc liên quan vũ khí hạt nhân và quân đội Mỹ đã phải hủy kế hoạch can thiệp.

(TTXVN/Vietnam+)

Tin cùng chuyên mục

Facebook và hàng loạt ứng dụng của Meta đồng loạt 'sập' trên toàn thế giới

Hàng loạt nền tảng thuộc hệ sinh thái Meta như Facebook, Instagram, Threads gặp sự cố truy cập trên giao diện website sáng 21/9. Tuy nhiên, người dùng vẫn có thể sử dụng các ứng dụng trên điện thoại.

Tổng thống Mỹ lên kế hoạch bổ nhiệm cố vấn AI và thành lập “lực lượng AI”

Tổng thống Trump và các lãnh đạo công nghệ cho rằng việc quản lý quá mức sẽ làm chậm quá trình phát triển AI của Mỹ và làm suy yếu khả năng cạnh tranh của các công ty Mỹ với doanh nghiệp Trung Quốc.

Trải nghiệm đa giác quan tại “bảo tàng gia vị” 200m2 đầu tiên ở Hà Nội

“Bảo tàng gia vị” thuộc Zero Gallery (Hà Nội) được thiết kế theo ý tưởng một con tàu vũ trụ. Du khách lần lượt được trải nghiệm, tìm hiểu về các loại gia vị gắn với món phở thông qua nhiều giác quan.

Sinh viên Việt Nam tại Australia thử sức với các bài toán AI thực tiễn

UAVS Hackathon 2026 được tổ chức nhằm tạo sân chơi công nghệ mang tính thực tiễn cho cộng đồng sinh viên Việt Nam tại Australia, giúp người tham gia vận dụng kiến thức về AI.

Đổi mới sáng tạo thúc đẩy phát triển kinh tế-xã hội Lai Châu

Lai Châu xác định khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số là động lực quan trọng để nâng cao năng suất, hiệu quả quản lý, mở rộng không gian phát triển kinh tế-xã hội.

Tổng thống Mỹ Trump lên kế hoạch thành lập “Lực lượng AI”

Trong bối cảnh cuộc tranh luận ngày càng căng thẳng xung quanh sự phát triển nhanh chóng của AI, tổng thống Mỹ Trump ngày 19/9 cho biết đang thành lập “Lực lượng AI” và sẽ công bố “Tư lệnh AI.”

Chuyên gia gợi mở cách kết nối hai hệ sinh thái công nghệ Việt Nam - Canada

Giám đốc Hội đồng Thương mại Canada - Việt Nam Julie Nguyễn cho rằng, khoảng trống giữa nghiên cứu công nghệ và khả năng triển khai trên thị trường chính là nơi Việt Nam - Canada có thể gặp nhau.