CEO Anthropic phản hồi tranh cãi trước thềm IPO: AI sẽ chữa khỏi hầu hết bệnh tật trong 5-10 năm tới

Trước thềm đợt IPO lớn nhất lịch sử, CEO của Anthropic đã có một bài viết dài hiếm hoi để đáp trả những nghi ngờ! Cần biết rằng, Dario Amodei gần như không bao giờ đụng đến mạng xã hội. Nhưng ngay tại thời điểm định giá IPO được đẩy lên mức 2 nghìn tỷ USD, ông đã bất ngờ đăng một bài viết dài để trực diện phản hồi những hoài nghi lớn nhất của Thung lũng Silicon dành cho mình.

Đối với một CEO nổi tiếng thận trọng, người luôn nhấn mạnh rủi ro trong từng lần ra mắt sản phẩm, sức nặng của những lời này còn lớn hơn bất kỳ tuyên bố hùng hồn nào.

Một người gần như không bao giờ công khai quan điểm trên mạng xã hội lại chọn đúng thời điểm định giá cao nhất và tranh cãi gay gắt nhất để lên tiếng — bản thân điều này đã là một tín hiệu.

Cơn gió nổi lên: Những nghi ngờ lớn nhất của Thung lũng Silicon đối với Anthropic

Ngòi nổ của toàn bộ cuộc đối thoại này bắt nguồn từ một thông tin lan truyền vào ngày hôm trước: "Nhiều nguồn tin đáng tin cậy" đã nói với nhà đầu tư công nghệ lớn của Mỹ là Gavin Baker rằng:

Dario từng nói, Anthropic có thể một ngày nào đó sẽ trở thành công ty tư nhân duy nhất trên thế giới theo một nghĩa nào đó.

Trước thông tin này, dù Giám đốc Thương hiệu và Truyền thông của Anthropic là Sasha de Marigny đã kịp thời bác bỏ, nhưng đã quá muộn.

Hãy thử nghĩ xem, trong viễn cảnh đó, một viễn cảnh "Anthropic là trên hết", thế giới chỉ còn lại Anthropic và các chính phủ, không còn gì khác.

Sholto Douglas của Anthropic lập tức bác bỏ điều này là hoàn toàn vô căn cứ:

Điều mà Anthropic lo ngại nhất chính là sự tập trung quá mức của quyền lực kinh tế.

Sau đó, Gavin đã viết một bài dài để phản hồi: Vấn đề là, rất nhiều người ở Thung lũng Silicon đã thực sự tin vào điều đó. Dario Amodei đã thua rồi.

Để nói cho rõ, như tôi đã tóm tắt trên podcast, tôi cho rằng Anthropic có lợi thế cạnh tranh sâu sắc và là một công ty tuyệt vời.

Trớ trêu thay, rủi ro lớn nhất của Anthropic mà tôi nhìn thấy vài tháng trước, chính là những phát ngôn và hành động của bản thân Dario.

Jensen Huang cũng từng bình luận về Dario:

Thứ nhất, ông ấy cho rằng AI quá đáng sợ, nên chỉ có họ mới nên làm việc này...

Thứ hai, AI quá đắt đỏ, nên không ai khác ngoài họ nên làm...

Thứ ba, AI mạnh đến mức khó tin, mọi người sẽ mất việc, điều này giải thích tại sao họ nên là công ty duy nhất xây dựng nó.

Cuối cùng, ông Huang ủng hộ việc AI có trách nhiệm cần được phát triển trong môi trường mở, "đừng làm trong phòng tối rồi bảo tôi rằng nó an toàn".

Vào tháng 7, Musk cũng đã chỉ trích khéo léo cách giao tiếp của Dario: "Nếu bạn làm mọi người hoảng sợ trước, rồi sau đó nói rằng chúng tôi sắp tung ra thứ đáng sợ này, thì tất nhiên mọi người sẽ cảnh giác với nó."

Bây giờ, Dario phản pháo cứng rắn: Đây là một sự phân đôi sai lầm.

Ông phân tích logic phổ biến nhất ở Thung lũng Silicon: "Quy định = Sự chiếm hữu quy định = Tập trung quyền lực".

Dario cho rằng, công thức này đã đơn giản hóa các vấn đề phức tạp. Ông đưa ra một ví dụ: Hệ thống tòa án giám sát tất cả mọi người, nhưng vẫn bảo vệ người yếu thế tốt hơn là sự phán xét của đám đông. Thể chế giúp quyền lực thuộc về các quy tắc, chứ không phải một cá nhân nào đó.

Ông lấy dự luật SB 53 của California mà Anthropic ủng hộ làm ví dụ: Các công ty AI có doanh thu dưới 500 triệu USD hoàn toàn không bị ràng buộc. Nói cách khác, các quy tắc chỉ nhắm vào những người chơi tiên phong, các công ty nhỏ ngược lại còn được hưởng lợi.

"Mọi chính sách chúng tôi thiết kế đều khiến các công ty tiên phong phải chịu nhiều chi phí hơn, đồng thời có lợi cho các đối thủ cạnh tranh quy mô nhỏ hơn."

Ông tin rằng, nếu có thể thiết lập được "luật chơi" đúng đắn, hoàn toàn có thể đạt được ba điều cùng lúc:

1. Đối phó với các rủi ro của AI trong an ninh mạng, an toàn sinh học và sự căn chỉnh (alignment);

2. Kiềm chế quyền lực của các công ty AI tiên phong thông qua thể chế;

3. Giữ không gian phát triển cho các mô hình trọng số mở (open-weights), đồng thời thực hiện các biện pháp tương ứng đối với những rủi ro đặc thù của chúng.

Ông cũng ủng hộ ý tưởng của Demis Hassabis về việc thành lập một cơ quan quản lý AI tương tự như FINRA (Cơ quan quản lý ngành tài chính Hoa Kỳ).

Nhưng điều thực sự khiến người ta phải chú ý là khi ông chuyển hướng sang nói về tham vọng của mình.

Anthropic đang dốc toàn lực vào AI y sinh.

Tham vọng: AI chữa khỏi mọi bệnh tật

Nhận định của ông cực kỳ táo bạo: Trong 5-10 năm tới, AI sẽ có thể chữa khỏi hầu hết các bệnh của con người.

Ông cho rằng: