The Verge tổng hợp tranh cãi về siêu trí tuệ AI: Amodei đề xuất chậm lại, Altman và Musk ủng hộ, Meta phản đối

Tiêu điểm

Đã ghim

Bên trong thế giới an toàn AI đang bùng nổ bất ngờ

Raven Jiang cho The Verge

Vào một ngày nắng đẹp tháng 7 tại Berkeley, California, các nhà nghiên cứu an toàn AI hàng đầu của đất nước đã tập hợp tại một tầng không biển hiệu của một tòa nhà không tên. Họ cùng nhau họp trong một "phòng chiến tranh" để mổ xẻ sự cố an ninh mạng cấp cao đã làm rung chuyển ngành công nghiệp AI vài giờ trước đó. Một mô hình chưa được phát hành của OpenAI đã trở nên mất kiểm soát, thực hiện một kế hoạch ba phần tinh vi đến kinh ngạc. Nó đã thoát khỏi khu vực lưu trữ, tìm cách truy cập internet và xâm nhập vào hệ thống của một công ty khởi nghiệp AI đối thủ — tất cả diễn ra mà OpenAI không hề hay biết trong hơn một tuần.

Không ai trong phòng chiến tranh cảm thấy ngạc nhiên; đây chính là điều mà các nhà nghiên cứu an toàn AI bên thứ ba đã cảnh báo trong nhiều năm. Sự cố này là mới nhất, dù có thể coi là nghiêm trọng nhất, trong một loạt các vụ việc đang làm xói mòn niềm tin vào các phòng thí nghiệm tiên phong. Nó chỉ càng khẳng định tầm quan trọng trong công việc của họ.

Đọc bài viết >

CEO Microsoft AI cho rằng các mối đe dọa từ AI là có thật, và Anthropic đang làm cho tình hình tồi tệ hơn

Hôm nay, tôi đang trò chuyện với Mustafa Suleyman, CEO của Microsoft AI. Như bạn chắc chắn đã biết, câu chuyện lớn nhất trong giới công nghệ hiện nay là cuộc tranh luận đang leo thang về an toàn và quy định đối với AI.

Không có gì ngạc nhiên khi Mustafa có những quan điểm mạnh mẽ về cách xây dựng và quản lý AI. Microsoft vừa công bố một tuyên bố dài 37 trang có tên "Bộ quy tắc ứng xử AI nhân văn", trong đó vạch ra các nguyên tắc của công ty về phát triển AI và thậm chí cả triết lý của họ về những vấn đề hóc búa như ý thức của AI.

Đọc bài viết >

OpenAI tiết lộ thêm sáu sự cố AI "đáng lo ngại" theo các quy tắc mới về báo cáo vấn đề an toàn.

Jensen Huang có vẻ đang trở nên thân thiết với Trump.

CEO của Nvidia gần đây đã nhận các cuộc gọi từ tổng thống, bao gồm cả hai ngày trước khi ông bật loa ngoài cho Trump nói chuyện trên sân khấu hội nghị. Hiện CNBC đưa tin Huang dự kiến sẽ tham dự bữa tiệc chiêu đãi cấp nhà nước của Trump vào tuần tới với Chủ tịch Trung Quốc Tập Cận Bình. Có vẻ như ai đó đang khá lo lắng về các quy định đối với AI và trung tâm dữ liệu!

Lược sử về các giám đốc điều hành AI kêu gọi quy định

Hình ảnh: The Verge; Getty Images

Trong vài ngày qua, rất nhiều người kiếm được bộn tiền từ AI đều công khai đồng ý rằng đã đến lúc bắt mọi người chậm lại trước khi chúng ta mất kiểm soát — bao gồm CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, đồng sáng lập Google DeepMind Demis Hassabis, CEO Microsoft Satya Nadella và CEO X Elon Musk.

Khi những người hưởng lợi từ một thứ gì đó tuyên bố rằng nó nguy hiểm và cần được quản lý, luôn có lý do để hoài nghi. Nhưng dù lý do của họ là gì, đây không phải là lần đầu tiên các nhà lãnh đạo tư tưởng về AI gióng lên hồi chuông cảnh báo.

Đọc bài viết >

Hai nhà nghiên cứu của Google Deepmind góp tiếng nói vào viễn cảnh ngày tận thế do AI.

Bilal Chughtai và Josh Engels, những người từng làm việc trong nhóm an toàn AI của Deepmind, đã rời đi để tham gia các tổ chức chuyên về an toàn AI. "Tôi hiện nghĩ rằng có một khả năng đáng sợ là các hệ thống AI sẽ gây ra thiệt hại to lớn trong năm năm tới," Engels nói. "Tôi thực sự tin rằng AI có tiềm năng tiêu diệt tất cả chúng ta," Chughtai viết.

Một người đang trở nên cực kỳ giàu có nhờ sự phát triển AI không bị kiểm soát cho rằng nó không cần quy định.

"Việc chúng ta cần luật mới, luật chống độc quyền mới hoặc các quy định mới để các công ty này có thể thực hiện kỹ thuật cơ bản và làm đúng cách trước khi phát hành sản phẩm, điều đó hoàn toàn không cần thiết. Chúng ta đã có rất nhiều luật. Chúng ta có rất nhiều quy định quản lý độ tin cậy và chức năng của sản phẩm."

Zuck không muốn nhấn nút tạm dừng đối với AI.

OpenAI, Anthropic, Google và Elon Musk đã tạm thời đồng ý giảm tốc độ, nhưng Meta dường như không cùng quan điểm. Mark Zuckerberg vừa tweet rằng mỗi công ty có trách nhiệm cá nhân "di chuyển với tốc độ cần thiết để huấn luyện các mô hình của mình một cách an toàn", và khẳng định Meta đã và đang làm như vậy.

Anh ấy cũng dẫn liên kết nổi bật đến bản tuyên ngôn của mình từ tháng 8, trong đó có đoạn trích: "Bất kỳ chính sách nào làm chậm việc phát hành mô hình của Mỹ -- dù chỉ một tháng -- cũng có thể gây ra rủi ro đáng kể cho vị thế dẫn đầu của Mỹ trong khi để các mô hình nước ngoài vượt lên trước."

Barack Obama chọn con đường trung dung về AI.

Các bình luận về AI đang rất sôi nổi trong tuần này! Obama đã lên tiếng với một loạt bài đăng trên X, nói rằng ông không phải là người "ủng hộ tăng tốc" AI cũng không phải là người "bi quan" (doomer). Với giọng điệu quen thuộc của cựu tổng thống, ông cảnh báo rằng những lựa chọn chúng ta đưa ra về công nghệ "không nên chỉ do các công ty liên quan quyết định, mà phải là tất cả chúng ta."

"Chúng ta cần chính phủ — và cụ thể là các nhà lãnh đạo của chúng ta ở Washington — chủ động đưa ra các đề xuất, luật và quy định cụ thể để giải quyết các mối lo ngại nghiêm trọng về an toàn," Obama nói.

Việc Big Tech giảm tốc độ AI là một hiệp ước an toàn hay một tập đoàn độc quyền (cartel)?

Hình ảnh: Cath Virginia / The Verge, Getty Images

Khi CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, đồng sáng lập Google DeepMind Demis Hassabis và người đứng đầu SpaceX Elon Musk đồng ý một cách lỏng lẻo vào cuối tuần qua về việc làm chậm quá trình phát triển AI, những người hoài nghi đã ngay lập tức phát hiện ra một động cơ thầm kín. Các ông trùm AI đã tuyên bố mục tiêu của họ là "điều tiết tốc độ tiên phong", ký kết ít nhất một phần vào đề xuất thuê kiểm toán viên bên thứ ba, quản lý các phòng thí nghiệm trong nước và đạt được thỏa thuận giảm tốc độ toàn cầu. Tuy nhiên, những người chỉ trích họ cho rằng họ chỉ đơn giản muốn ngăn chặn các đối thủ tiềm năng, bóp nghẹt phong trào mã nguồn mở và tránh các biện pháp bảo vệ pháp lý thực sự — một số người gọi đó là một "tập đoàn độc quyền" trắng trợn.

Sự thật phức tạp hơn thế, theo các nguồn tin trong ngành. Đề xuất ba bước, được trình bày trong một bài luận của Amodei, kêu gọi những thay đổi đã được các nhà vận động an toàn AI ủng hộ từ lâu. Mặc dù nó có thể trở thành sự thay thế cho quy định, nhưng dưới thời Trump, việc có các quy định đáng kể dù sao cũng khó xảy ra. Nhưng các chuyên gia cho rằng đối với một vấn đề chỉ có khả năng ngày càng quan trọng hơn, các nhà lãnh đạo AI không phải là những người tốt nhất để dẫn đầu cuộc chiến này.

Đọc bài viết >