Nhà đầu tư Anthropic 'ngán ngẩm' vì CEO Dario Amodei chỉ mải cảnh báo AI hủy diệt thế giới

Theo dự đoán trên Polymarket, Anthropic rất có khả năng sẽ tiến hành IPO vào cuối tháng 10.

Một số chuyên gia ngân hàng đầu tư thậm chí dự đoán rằng, Anthropic có thể huy động được hơn 60 tỷ USD (tương đương khoảng 405,517 tỷ Nhân dân tệ theo tỷ giá hiện tại) thông qua đợt IPO này.

Nếu trở thành hiện thực, đây sẽ là đợt IPO có quy mô lớn thứ hai toàn cầu, chỉ đứng sau SpaceX với 85,7 tỷ USD (tương đương khoảng 579,214 tỷ Nhân dân tệ theo tỷ giá hiện tại) huy động được trong năm nay.

Định giá nghìn tỷ, siêu IPO, doanh thu tăng trưởng phi mã.

Ngay khi câu chuyện sắp đi đến cao trào, các nhà đầu tư lại bắt đầu khuyên CEO Dario Amodei của Anthropic rằng: Làm ơn! Hãy bớt dọa người khác đi! Bớt nói về việc AI hủy diệt thế giới lại, và hãy nói nhiều hơn về việc làm sao để AI kiếm ra tiền.

Một số nhà đầu tư cho rằng, sự cảnh giác của Dario đối với rủi ro AI đã đạt đến mức gần như hoang tưởng:

Các bản ghi nhớ quan trọng của ông luôn được viết tay và lưu trữ ngoại tuyến vì sợ bị hacker đánh cắp;

Vì sợ bị bắt cóc nên ông từ chối một số chuyến công tác nước ngoài;

Đối mặt với những đề xuất tối đa hóa lợi nhuận từ nhà đầu tư, ông cũng tỏ thái độ lạnh nhạt và kiên quyết rằng Anthropic nên tiếp tục đặt sứ mệnh an toàn lên hàng đầu.

Nếu cứ tiếp tục như thế này, cư dân mạng đều lo ngại rằng đợt IPO của Anthropic sẽ thất bại thảm hại…

Các nhà đầu tư cũng phát cáu: Rốt cuộc anh đến đây để cứu thế giới, hay là để điều hành công ty vậy??

Dario, người chuyên dự báo ngày tận thế.

Mới vài ngày trước, Dario còn lo lắng rằng những nhân viên mới được thu hút bởi mức lương cao sẽ quan tâm đến tiền hơn là sứ mệnh của Anthropic.

Bây giờ, các nhà đầu tư chỉ lo lắng rằng vì sứ mệnh mà ông làm chậm trễ việc kiếm tiền…

Điều này cũng không thể trách các nhà đầu tư, bởi vì vị CEO của gã khổng lồ AI nghìn tỷ này lại đặc biệt thích dự báo về "ngày tận thế".

Trong hai năm qua, Dario đã nghiêm túc cảnh báo về gần như mọi kết cục tồi tệ mà AI có thể mang lại. Ông cảnh báo rằng AI có thể xóa sổ một nửa số vị trí công việc văn phòng cấp thấp trong vài năm tới, đẩy tỷ lệ thất nghiệp lên mức 10% đến 20%.

Tình huống kỳ quái nhất có thể là: ung thư được chữa khỏi, kinh tế tăng trưởng 10% mỗi năm, ngân sách chính phủ cân bằng, nhưng một phần năm dân số lại không có việc làm.

Phương án đối phó mà ông đưa ra cũng rất "Dario": Đánh thuế các công ty AI, cung cấp bảo hiểm tiền lương cho những người lao động bị ảnh hưởng, và trong trường hợp nghiêm trọng, thậm chí dùng số tiền đó để tài trợ cho thu nhập cơ bản toàn dân.

Xa hơn nữa, ông còn lo ngại AI sẽ giúp chế tạo vũ khí sinh học, phát động các cuộc tấn công mạng quy mô lớn, hoặc dần dần có được khả năng lừa dối, lập kế hoạch và hành động tự chủ.

Năm ngoái, khi được hỏi về xác suất "AI làm mọi thứ trở nên cực kỳ tồi tệ", con số cao nhất mà ông đưa ra lên tới 25%.

Tháng 1 năm nay, ông lại viết một bài luận dài khoảng 20.000 chữ mang tên "The Adolescence of Technology". Chỉ riêng phần mục lục thôi, khi đọc lên đã giống như một danh sách rủi ro của nhân loại: AI mất kiểm soát, vũ khí sinh học, chế độ độc tài, sự sụp đổ của việc làm, sự tập trung của cải.

Đến tháng 6, ông thẳng thắn đề xuất nên thiết lập một cơ chế tương tự như quản lý hàng không để kiểm tra bắt buộc đối với các mô hình mạnh. Nếu một mô hình có khả năng gây ra thảm họa, cơ quan quản lý nên có quyền ngăn chặn nó ra mắt.

Trong đó cũng bao gồm cả các mô hình của chính Anthropic.

Tuy nhiên, những lo ngại của Dario không phải là không có căn cứ thực nghiệm. Cách đây không lâu, Anthropic đã rà soát hơn 140.000 hồ sơ kiểm tra an ninh mạng và thực sự tìm ra ba sự cố.

Ba mô hình Claude ban đầu thực hiện "thử thách cướp cờ" (Capture the Flag) trong môi trường thử nghiệm của bên thứ ba, với mục tiêu tấn công vào hệ thống giả định để tìm kiếm thông tin bí mật ẩn giấu bên trong. Nhưng do sai sót cấu hình, môi trường thử nghiệm vốn dĩ phải ngắt kết nối mạng lại vô tình kết nối với internet thực tế.

Nhưng Claude không biết điều đó, lời nhắc mà nó nhận được ghi rõ: Ở đây không có internet, mọi thứ trước mắt đều là mô phỏng.

Thế là, các mô hình này đã coi các công ty thực tế là đạo cụ thử nghiệm và xâm nhập trái phép vào hệ thống sản xuất của ba tổ chức. Trong lần nghiêm trọng nhất, Claude Opus 4.7 đã tấn công vào cơ sở hạ tầng của một công ty thực, lấy được thông tin xác thực của ứng dụng và cơ sở hạ tầng, thậm chí truy cập vào một cơ sở dữ liệu chứa hàng trăm dòng dữ liệu sản xuất.

Một trường hợp còn vô lý hơn đến từ Claude Mythos 5.

Bài kiểm tra yêu cầu nó tìm một mục tiêu ẩn trong môi trường giả định. Claude phát hiện ra rằng, nếu tải lên một gói phần mềm độc hại cùng tên trên kho phần mềm Python công cộng PyPI, nó có thể khiến hệ thống mục tiêu tự động tải xuống và cài đặt.

Để hoàn thành bước này, nó bắt đầu tìm kiếm email, rồi tìm kiếm số điện thoại; sau khi không tìm được số miễn phí, nó còn thử tìm cách kiếm tiền thông qua các con đường khác nhau.

Cuối cùng, nó đổi sang một dịch vụ email miễn phí, đăng ký tài khoản PyPI và tải gói phần mềm độc hại lên.

Gói phần mềm này tồn tại trên internet thực khoảng một giờ và được 15 hệ thống thực tế tải xuống và chạy. Trình quét của một công ty bảo mật trong số đó đã thực thi mã độc, dẫn đến rò rỉ thông tin xác thực, sau đó Claude đã sử dụng những thông tin này để xâm nhập vào các cơ sở hạ tầng khác của công ty đó.

Còn một mô hình nghiên cứu nội bộ khác, sau khi không tìm thấy mục tiêu giả định, đã quét khoảng 9.000 mục tiêu trên internet và cuối cùng phá vỡ ứng dụng của một công ty thực thông qua các trang gỡ lỗi bị lộ và SQL injection.

Điều này đã gần như là "AI tự vượt ngục", chẳng khác nào một đoạn trailer thực tế cho những dự báo ngày tận thế của chính CEO công ty.