George Hotz (Comma AI) phản đối kìm hãm phát triển AI, ủng hộ mô hình kiểm soát cục bộ

Một câu hỏi nhanh: Bạn có muốn AI được huấn luyện tốt đến mức nó có thể giúp những người chồng (hoặc vợ) lên kế hoạch cho một vụ mưu sát hoàn hảo nhắm vào bạn đời của họ không? Chắc là không rồi, đúng không? Theo phản xạ tự nhiên, câu trả lời có vẻ là không. Tôi thậm chí không nghĩ đây là một câu hỏi quá khó.

Nhưng nước Mỹ chứa đựng nhiều quan điểm đa dạng, và một trong những quan điểm như vậy đã được George Hotz, nhà sáng lập Comma AI và là một "jailbreaker" (người bẻ khóa phần mềm) kỳ cựu, chia sẻ vào cuối tuần qua.

Bài đăng này là phản hồi cho một loạt các kế hoạch về định hướng AI ở tầm vĩ mô, gần đây nhất là tài liệu chính sách AI 2040: Plan A từ viện AI Futures. Tài liệu đó hình dung ra một thế giới nơi các nhà nghiên cứu trên toàn cầu cùng nhau chọn cách làm chậm quá trình phát triển AI trong 14 năm vì lợi ích của nhân loại. Nhưng tất nhiên, không phải ai đọc tài liệu này cũng đồng ý với các tiền đề hoặc kết luận của nó.

Hotz thuộc nhóm không đồng tình. Trong bài đăng của mình, ông lập luận rằng kịch bản "fast-takeoff" (cất cánh nhanh) — giả thuyết cho rằng AI sẽ nhanh chóng đạt được khả năng siêu phàm — không thực sự hợp lý. Tôi khá đồng tình với nhiều điều ông ấy nói ở đây! Đối với Hotz, cách tiếp cận tốt nhất đối với sự an toàn và định hướng AI là tập trung vào các mô hình AI được kiểm soát cục bộ, vốn gắn kết chặt chẽ với lợi ích của người dùng.

Đó là một ý tưởng thú vị, đặc biệt vì nó nhắc tôi nhớ rằng phần lớn AI hiện nay được xây dựng xung quanh các dịch vụ quản lý tập trung như Claude và ChatGPT. Có những lý do liên quan đến cơ sở hạ tầng khiến các dịch vụ AI được phát triển theo cách này: chi phí lưu trữ các mô hình hiện đại, quy mô lớn rất đắt đỏ và hầu hết mọi người không sử dụng chúng đủ nhiều trong ngày để biện minh cho một AI thực sự cá nhân hóa. Nhưng những yếu tố đó sẽ trở nên ít quan trọng hơn khi công nghệ phát triển. Một phần lý do khiến OpenClaw trở nên thú vị chính là cách tiếp cận thử nghiệm, tự làm (DIY) này, và sẽ thật tuyệt nếu thấy nhiều sản phẩm AI hơn cố gắng tái hiện điều đó.

Nhưng Hotz vốn là một người thích gây tranh cãi, nên ông không dừng lại ở đó. Ông so sánh AI được định hướng theo người dùng với một khẩu súng(!), thứ sẽ không phàn nàn nếu bạn dùng nó để giết mẹ kế của mình. (Tôi cảm thấy có những quy tắc khác ngăn cản điều này?) Ông nói, một AI thực sự được định hướng sẽ có thể đặt mua thiết bị sản xuất ma túy từ Amazon Prime và chỉ cho bạn cách sử dụng nếu đó là điều bạn muốn và yêu cầu. (Một lần nữa, tôi không nghĩ AI sẽ là yếu tố hạn chế ở đây.) Hotz thậm chí còn nói rằng ông sẵn sàng chết để bảo vệ nguyên tắc này, mặc dù thật khó để tưởng tượng chuỗi sự kiện nào sẽ dẫn đến điều đó.

"Chúng ta hoặc là sống trong một thế giới có tự do, hoặc là không," Hotz viết. Nếu đó là các lựa chọn, thì thế giới tự do nghe có vẻ tốt hơn! Tuy nhiên, tôi không biết nữa.

Mọi thứ không chỉ xoay quanh sự tự do, đúng không? Bất kỳ cấu trúc nào liên quan đến nhiều người (xã hội, thị trường, tập đoàn, v.v.) đều đòi hỏi sự cân bằng về quyền lợi, gắn kết nhu cầu cá nhân vào một mạng lưới các ưu tiên phụ thuộc lẫn nhau và các hệ thống trách nhiệm giải trình. Và bất kỳ ai triển khai các sản phẩm công nghệ đại chúng có lẽ nên suy nghĩ về mạng lưới đó như một tổng thể, nghĩa là phải coi trọng lợi ích của những người vợ/chồng và cha mẹ kế chưa bị sát hại trên thế giới này.

Sự tự do mà Hotz trải nghiệm thực chất là một không gian của những tương lai tiềm năng được tạo ra nhờ nỗ lực tập thể; những tương lai đó sẽ biến mất trong chớp mắt nếu tất cả chúng ta bắt đầu hành xử như những Napoleon chạy bằng AI. Như meme vẫn nói, chúng ta đang sống trong một xã hội.

Dù vậy, việc có một AI cục bộ sẵn sàng đối đầu với thế giới doanh nghiệp vì lợi ích của tôi nghe cũng rất tuyệt! Tôi nóng lòng chờ đợi một thiết bị để trải nghiệm.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Russell Brandom đã đưa tin về ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây, ông từng làm việc tại The Verge và Rest of World, đồng thời đã viết bài cho Wired, The Awl và MIT’s Technology Review. Bạn có thể liên hệ với ông ấy qua email [email protected] hoặc qua Signal theo số 412-401-5489.

Xem tiểu sử