CEO Anthropic: AI tự nhiên sẽ tập trung hóa, mã nguồn mở chỉ chuyển quyền lực cho các 'ông trùm' chip

Một cuộc tranh cãi công khai về quy định AI và sự tập trung quyền lực đã nổ ra trên X. Nhà đầu tư Gavin Baker, cựu cố vấn Nhà Trắng David Sacks và nhà nghiên cứu Yann LeCun của Meta cáo buộc CEO Dario Amodei của Anthropic đang sử dụng luận điệu gây sợ hãi để giành lợi thế về mặt quy định cho riêng mình.

Mọi chuyện bắt đầu từ một tuyên bố trên All-In Podcast. Nhà đầu tư Gavin Baker cho biết CEO Dario Amodei của Anthropic từng nói với nhân viên nội bộ rằng một ngày nào đó, công ty có thể là doanh nghiệp tư nhân duy nhất còn tồn tại trên thế giới, không có đối thủ nào khác ngoài các chính phủ. Nhà nghiên cứu Sholto Douglas của Anthropic gọi thông tin này là "hoàn toàn sai sự thật". Ông cho rằng sự tập trung quyền lực kinh tế chính là điều mà Anthropic lo ngại nhất. Ông lập luận rằng thị trường AI hiện đã là thị trường cạnh tranh nhất thế giới vì mọi công ty lớn đều đang chạy đua để xây dựng các mô hình thông minh hơn và rẻ hơn.

Baker sau đó đã làm rõ trọng tâm của cuộc tranh cãi: Nếu AI tiềm ẩn nguy hiểm, có hai quan điểm cơ bản. Hoặc bạn coi nó quá nguy hiểm để phổ biến rộng rãi và tập trung nó vào tay một vài công ty và chính trị gia, hoặc bạn coi nó quá nguy hiểm để tập trung và cần phổ biến nó rộng rãi nhất có thể. Theo quan điểm của Baker, việc đặt cược rằng một quyền lực tuyệt đối nào đó sẽ nhân từ chăm lo cho nhân loại hiếm khi có kết cục tốt đẹp trong suốt chiều dài lịch sử.

Cựu giám đốc nghiên cứu của Meta, Yann LeCun, cũng đứng về phía AI mở một cách kiên quyết. Ông cho rằng, giống như máy in và internet, AI khuếch đại trí tuệ con người bằng cách cải thiện khả năng tiếp cận tri thức. Các xã hội cần sự đa dạng rộng rãi các hệ thống AI với những giá trị khác nhau, cũng giống như lý do họ cần một nền báo chí đa dạng. Cuối cùng, AI tốt của người này sẽ đối trọng với AI xấu của người khác.

Những gì Amodei phản hồi các nhà phê bình

Chuỗi thảo luận dài cuối cùng đã thu hút chính Amodei tham gia. Trong bài đăng thứ tư trên X trong năm nay, Amodei gọi cách đặt vấn đề này là một sự lựa chọn sai lầm. Ông cho biết, ở một số nơi tại Thung lũng Silicon, giả định phổ biến là quy định đồng nghĩa với việc bị thao túng bởi nhóm lợi ích (regulatory capture), nghĩa là một ngành tự viết ra các quy tắc để phục vụ lợi ích của chính mình. Điều đó quá đơn giản. Ông lập luận rằng quy định cũng có thể kiềm chế quyền lực doanh nghiệp và giúp ích cho công dân bình thường khi các thể chế tốt đặt quyền lực vào các ý tưởng thay vì cá nhân.

Đó là lý do tại sao Anthropic cố tình thiết kế các đề xuất của mình để làm chậm các phòng thí nghiệm hàng đầu và ưu tiên các phòng thí nghiệm nhỏ hơn, ông nói. Để chứng minh, Amodei chỉ ra luật SB53 của California, trong đó miễn trừ hoàn toàn các yêu cầu đối với các công ty dưới ngưỡng doanh thu hoặc chi phí đào tạo nhất định. Ông lập luận rằng các mô hình mở, với trọng số được cung cấp công khai, chỉ giải quyết được một phần vấn đề. Chúng chỉ chuyển sự tập trung sang bất kỳ ai có nhiều sức mạnh tính toán và nhiều chip AI nhất, điều này lại đưa vấn đề trở về với các phòng thí nghiệm lớn. Ông cho rằng AI đang tập trung hóa theo đúng cấu trúc của nó, chủ yếu là do các định luật về quy mô (scaling laws) chứ không phải do quy định.

Nhà đầu tư David Sacks, người gần đây còn là cố vấn AI của Nhà Trắng, đã phản pháo lại lập luận của Amodei trong một bài phản hồi gồm chín phần. Ông cho biết điều đáng chú ý là Amodei thực sự không bác bỏ báo cáo của Baker, mặc dù ông ấy hoàn toàn có thể làm vậy. Sacks lập luận rằng lập luận về "bong bóng quy định" của Amodei là một sự ngụy biện (straw man), vì hầu như không ai thực sự nghĩ rằng mọi quy định đều là sự thao túng. Ông chỉ ra định nghĩa của nhà kinh tế học đoạt giải Nobel George Stigler, theo đó một ngành công nghiệp thâu tóm các quy tắc và vận hành chúng chủ yếu vì lợi ích riêng, trong khi lợi ích cho công chúng rộng rãi vẫn bị phân tán và không được tổ chức.

Sacks cho biết Anthropic hiểu rõ cơ chế này và đã thuê một số cựu quan chức AI từ chính quyền Biden trong khi xây dựng một bộ máy chính phủ lớn. Ông chế giễu đề xuất của Amodei về một cơ quan liên bang để đánh giá các mô hình hàng đầu trước khi phát hành, gọi đó là văn phòng phê duyệt AI. Sacks cho rằng một quy trình đánh giá như vậy sẽ tạo ra hàng đợi dài và làm chậm bước tiến của Mỹ so với Trung Quốc, quốc gia sẽ không áp dụng các yêu cầu như vậy.

Về phần mình, Baker cho rằng cuộc tranh luận đã kết thúc: Hầu như mọi công ty lớn ngoại trừ Anthropic đều đã ký vào bức thư của Jensen Huang ủng hộ các mô hình mở.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay