Bryan Cantrill chỉ trích quan điểm cho rằng AI có hơn 10% khả năng tiêu diệt nhân loại trong 10 năm tới

Tôi có một lời thú tội khó nói — một sự việc đáng xấu hổ mà tôi chưa từng kể với ai, ngay cả với những người thân thiết nhất.

Vào một đêm muộn năm nhất đại học, khi đã tìm thấy niềm đam mê cuộc đời mình là khoa học máy tính, tôi đang ngồi ở cuối phòng máy tính lớn, trò chuyện cùng vài sinh viên khóa dưới. Chúng tôi mỉa mai chê bai sự thiếu hiểu biết về công nghệ của đại đa số mọi người, với kiểu kiêu ngạo và tự phụ mà chỉ tuổi trẻ và sự thông minh sớm mới có được. Trong cuộc thảo luận đó, một ý tưởng tồi tệ đã nảy sinh: nếu chúng tôi sang phòng máy tính bên cạnh và nói với các sinh viên ngành nhân văn rằng một loại virus máy tính đang lây lan qua máy của họ thì sao? Liệu họ có tin không?

Với sự hối hận khôn nguôi, chúng tôi đã hành động theo sự thúc đẩy xấu xí đó: chúng tôi sang phòng bên cạnh, nơi chật kín sinh viên đang làm tiểu luận, và — với giọng điệu giả vờ hoảng hốt — lớn tiếng thông báo rằng một loại virus đã thoát ra từ phòng khoa học máy tính, và tất cả họ cần phải rút đĩa mềm ra để ngăn chặn sự lây lan.

Những gì xảy ra sau đó là một sự hỗn loạn — tương đương với việc hét lên "cháy" trong một rạp hát đông người. Mọi người hoảng loạn: họ không chỉ rút đĩa mềm mà còn tắt máy, giật dây cáp khỏi những chiếc máy đã tắt, la hét và chạy ra khỏi phòng. Chúng tôi lập tức nhận ra mình đã làm một việc tồi tệ, nhưng nhận thấy không thể kiểm soát được "đám cháy rừng" mà mình đã châm ngòi. Chúng tôi cố gắng giải thích đó chỉ là "một trò đùa"; một số người (đúng thôi!) phản ứng với sự giận dữ đầy phẫn nộ (chúng tôi bị làm sao mà lại làm chuyện như vậy?!), trong khi những người khác đơn giản là không tin chúng tôi: một khi nỗi sợ đã bén rễ, chúng tôi không thể nhổ bỏ nó.

Hậu quả sau đó là một mớ hỗn độn — nhưng rất tồi tệ. Đó là tuần trước kỳ thi cuối kỳ, và những người tắt máy tính đã bị mất dữ liệu công việc. Họ vô cùng giận dữ, và chúng tôi gặp rắc rối lớn.

Sáng hôm sau, chúng tôi phải có mặt tại văn phòng của giám đốc cơ sở vật chất (một người nổi tiếng nghiêm khắc), ông đã khiển trách chúng tôi gay gắt trong khi chúng tôi chỉ biết cúi đầu nhìn xuống chân. Ông bắt mỗi người viết thư xin lỗi (điều này dễ dàng vì sự xấu hổ của tôi là thật lòng), bảo chúng tôi đưa cho ông hai bản: một bản gửi cho những người chúng tôi đã làm tổn thương, bản còn lại giữ trong ngăn kéo của ông. Ông nói thẳng rằng nếu chúng tôi còn tái phạm bất cứ điều gì tương tự, chúng tôi sẽ phải tìm một trường đại học khác để theo học — và chúng tôi đảm bảo với ông rằng mình đã học được bài học. (Khi tôi tốt nghiệp bốn năm sau đó, ông đã đích thân trả lại lá thư cho tôi — và tôi vẫn luôn biết ơn sự nghiêm túc cũng như lòng thấu cảm mà ông đã dành cho toàn bộ sự việc.)

Tôi đã có thể (và có lẽ là nên?) mang theo sự việc đáng xấu hổ này xuống mồ, nhưng giờ đây tôi cảm thấy buộc phải thú nhận, bởi vì tôi chưa bao giờ thấy nỗi sợ hãi bị gieo rắc một cách vô trách nhiệm bởi những người được coi là chuyên gia công nghệ như cách họ đang làm với AI và mối đe dọa tuyệt chủng loài người (!) hiện nay. Đáng kinh ngạc thay, đó không phải là nói quá: tuần này, cựu nhân viên Anthropic là Jacob Coxon đã tuyên bố — và sau đó là Evan Hubinger, trưởng bộ phận Khoa học Căn chỉnh tại Anthropic, đã đồng tình — rằng xác suất AI "giết chết tất cả con người" là ">10% trong thập kỷ tới" (!!).

Nghĩa là, tuyên bố này không chỉ dừng lại ở việc AI có thể giết chết hàng ngàn, hàng triệu, hay thậm chí hàng tỷ người (những tuyên bố vốn đã rất phi thường!), mà là có hơn mười phần trăm khả năng AI sẽ giết chết toàn bộ nhân loại. Nói cách khác, nếu bạn có một đứa con mới sinh, tuyên bố của họ cho rằng có hơn mười phần trăm khả năng con bạn sẽ chết dưới tay AI trước khi kịp học xong cấp hai.

Những tuyên bố rùng rợn này tấn công trực diện vào tâm lý con người, và với tầm quan trọng rõ ràng của AI, không có gì ngạc nhiên khi chúng đã lan rộng ra dòng chính, khiến mọi người đặt ra câu hỏi tự nhiên: điều đó sẽ xảy ra như thế nào? Các câu trả lời luôn dựa trên sự suy diễn mơ hồ về tương lai; ví dụ, Jacob Coxon viện dẫn "hack cơ sở hạ tầng trọng yếu" và "vũ khí sinh học cấp độ tuyệt chủng" mà không giải thích thêm. Nhưng Coxon không phải là chuyên gia về cơ sở hạ tầng trọng yếu, cũng không phải về vũ khí sinh học — và cả về sự tuyệt chủng.

Điều mà Coxon, 27 tuổi, là chuyên gia — dù chỉ là vô tình — chính là sự lây lan của nỗi sợ hãi. Chúng ta không thể mong đợi công chúng hiểu được cơ chế bên trong của mọi công nghệ (đó chính là sai lầm của bản thân tôi năm 18 tuổi!): công nghệ quá rộng, quá sâu và quá cốt lõi trong cuộc sống của mỗi người để có thể kỳ vọng ai cũng hiểu hết mọi thứ; chúng ta phải — ở một mức độ nào đó — tin tưởng vào các chuyên gia trong ngành. Khi những chuyên gia đó gieo rắc nỗi sợ, chính nỗi sợ đó sẽ bén rễ, lan truyền nhanh hơn bất kỳ bằng chứng nào theo sau nó. (Như Jonathan Swift đã châm biếm hơn ba thế kỷ trước: "Lời dối trá bay nhanh, còn sự thật thì khập khiễng đuổi theo sau".) Về khía cạnh này, Coxon giống như một vật trung gian truyền bệnh hơn là ca bệnh đầu tiên: không thể phủ nhận rằng nỗi sợ về nguy cơ tuyệt chủng đang lan rộng và bản thân Coxon có lẽ cũng có những nỗi sợ này vì anh ta đã nghe từ người khác. Thật không may, khi nỗi sợ chiếm ưu thế, số lượng lớn các chuyên gia đang sợ hãi lại trở thành một loại bằng chứng, khiến những tiếng nói trái chiều bị nhấn chìm bởi sự ồn ào của một sự đồng thuận giả tạo.

Với nhận thức đầy đủ rằng nỗi sợ hãi đang trở nên vững chắc, tôi vẫn muốn đưa ra một lời phản bác, từ chính lĩnh vực chuyên môn (hẹp) của mình: xây dựng máy tính. Như tôi đã phản ánh trong bài nói chuyện tại Monktoberfest năm 2023, "Trí tuệ là không đủ", các hành động kỹ thuật không chỉ là hành động của trí tuệ đơn thuần. Chúng đòi hỏi không chỉ các khía cạnh nhân văn trong tính cách của chúng ta, mà còn đòi hỏi hành động của chúng ta trong (và tư duy về) thế giới vật lý. Những người kiên định với nỗi sợ hãi của họ thích lờ đi những chi tiết này ("robot sẽ làm điều đó!"), nhưng làm như vậy là phớt lờ thực tế vật lý rằng robot không thể làm điều đó ngày hôm nay — và dường như cũng không thể làm được trong một khung thời gian phù hợp với những nỗi sợ tuyệt chủng này.

Tổng quát hơn, ở mức độ mà các hệ thống kỹ thuật số có quyền năng trong thế giới vật lý, đó là quyền năng mà chúng ta — những con người bằng xương bằng thịt với bộ não, cha mẹ và con cái — cho phép: AI thực thi trên các hệ thống vật lý đã được thiết kế với sự kiểm soát và trách nhiệm của con người. Trí tuệ không miễn trừ một hệ thống khỏi những thực tế của thế giới vật lý!

Với những người — như Coxon — đang bị nỗi sợ hãi không lay chuyển bao trùm, điều này sẽ chẳng an ủi được bao nhiêu. Nhưng với những người lần đầu nghe thấy những nỗi sợ này: hãy biết rằng sự hoài nghi của bạn là có cơ sở. Chúng ta nên ghi nhớ trí tuệ của cố Carl Sagan rằng những tuyên bố phi thường đòi hỏi những bằng chứng phi thường: những tuyên bố từ Coxon và những người cùng chí hướng là những tuyên bố phi thường nhất mà một nhà công nghệ có thể đưa ra, và chúng ta phải yêu cầu bằng chứng tương xứng với những tuyên bố đó.

Dù vậy, chúng ta không nên mong đợi công chúng hiểu về LLM, cơ sở hạ tầng trọng yếu, vũ khí sinh học, sinh học tuyệt chủng, v.v. — gánh nặng đó phải thuộc về những người đưa ra tuyên bố. Bài học mà tôi đã học được (một cách đáng xấu hổ) nhiều thập kỷ trước là các chuyên gia trong ngành, nhờ vào chuyên môn của họ, mặc nhiên nắm giữ sự tin tưởng của công chúng — và chúng ta không được lạm dụng điều đó. Chúng ta có nghĩa vụ phải thận trọng trong các tuyên bố của mình — và đặc biệt là khi gióng lên hồi chuông cảnh báo.

Vì vậy, gửi những người trong phòng máy đêm muộn đó hơn ba thập kỷ trước, tôi xin lỗi: các bạn đã không có gì phải sợ vào lúc đó — và (ít nhất là liên quan đến nguy cơ tuyệt chủng!) các bạn cũng không có gì phải sợ vào lúc này.