Trí tuệ không phải là nút thắt duy nhất: Rào cản thực sự của y học trong kỷ nguyên AI

Edit: Để làm rõ, tôi không nói rằng tất cả mọi người hay thậm chí là đa số mọi người trong giới công nghệ tại San Francisco đều nghĩ như vậy. Nhưng chắc chắn có một bộ phận nghĩ thế (ví dụ, cuộc trò chuyện mở đầu là nguyên văn) và bài viết này nói về một nhóm nòng cốt cụ thể, những người có quan điểm gây ảnh hưởng không tương xứng trong các cuộc thảo luận và hoạch định chính sách.

Trong một bữa tối gần đây, một người từ một phòng thí nghiệm AI đã hỏi tôi một cách khá thẳng thừng rằng tại sao tôi lại làm công việc hiện tại — tại sao tôi lại viết về những nút thắt quy định đối với sự tiến bộ y tế, tại sao tôi dành thời gian cho các chính sách liên quan đến thử nghiệm lâm sàng. Anh ta nhìn tôi với vẻ mặt mà cách tóm tắt tốt nhất là sự thương hại.

Tôi đã nói với anh ta điều tôi tin tưởng: rằng trong kỷ nguyên AI, y học sẽ bị kìm hãm bởi các quy định và sự gian nan của các thử nghiệm lâm sàng nhiều hơn bao giờ hết, và hàng tỷ đô la đổ vào nghiên cứu tiền lâm sàng nhanh hơn cũng sẽ không giải quyết được vấn đề đó, dù nó có vẻ không mấy hấp dẫn. Tôi đã nêu ví dụ về nhà ở: chúng ta đã có công nghệ để xây dựng nhà ở tốt hơn từ nhiều thập kỷ nay, nhưng nó lại đắt đỏ hơn bao giờ hết, bởi vì nhà ở là vấn đề của ý chí chính trị, không phải là vấn đề về năng lực thuần túy.

Anh ta nhìn tôi đầy hoài nghi. Chắc chắn, một người thông minh như tôi phải biết rằng AI, hay nói đúng hơn là AGI, sẽ sớm trở nên siêu thuyết phục — trên thực tế, nó đã vượt qua các chuyên gia tranh luận về khả năng thuyết phục ở hàng loạt các bài kiểm tra đánh giá (benchmarks). Tôi nói: “Ừm.” Anh ta đáp: “Đúng, đúng rồi”, với giọng điệu của một người thấu hiểu sâu sắc những điều mà những kẻ phàm trần như tôi, vốn không phải là nhân viên phòng thí nghiệm AI, đơn giản là không đủ tầm để nắm bắt. Và anh ta lại nhìn tôi với vẻ thương hại đó, cái cách mà người ta nhìn một con vật hơi kém thông minh nhưng dễ thương đang chờ đợi cái chết cận kề.

Đêm đó tôi nằm trằn trọc, suy nghĩ xem liệu cuộc đời mình có ý nghĩa gì không. Liệu mọi quyết định tôi từng đưa ra có phải là một sai lầm theo cách nào đó hay không. Tôi đã có thể làm gì tốt hơn?

Nhưng khi mặt trời mọc, tôi lại quay về với cùng một suy nghĩ: bất kể AI trở nên “thông minh” đến mức nào, trí thông minh thường không phải là nút thắt chính khiến mọi thứ thay đổi trong thế giới thực. Thật khó để giữ vững niềm tin đó khi những người thông minh hơn bạn, với quyền truy cập vào thông tin đặc quyền, lại khẳng định điều ngược lại. Suy cho cùng, tất cả những điều này có thể chỉ là sự “tự trấn an” của một chú chuột hamster ngây thơ đang chờ đợi bị làm thịt.

Tuy nhiên, tôi vẫn sẽ giữ vững niềm tin của mình.

Bởi vì những người tại các phòng thí nghiệm này đã tạo ra khối tài sản khổng lồ nhờ đặt cược vào những ý tưởng từng trông có vẻ điên rồ, nên thế giới giờ đây tin tưởng gần như mọi điều họ nói. Tôi nghĩ đó là một sai lầm. Không có gì đảm bảo rằng AI sẽ giải quyết được những vấn đề mà hầu hết mọi người thực sự quan tâm, bao gồm cả y học, trừ khi chúng ta suy nghĩ về những vấn đề đó một cách sáng suốt. Và vào lúc này, tôi không tin rằng chúng ta đang làm như vậy, hoặc ít nhất là không ở mức độ mà chúng ta có thể. Lập luận của tôi rất đơn giản và xuất phát từ hai hướng. Một là những gì tôi quan sát thấy trong động lực xã hội ở San Francisco và cách mọi người ở đó nói về tất cả những điều này. Hai là những gì tôi nhận thấy trong một lĩnh vực mà tôi tình cờ biết đôi chút: y học.

Một trong những lời hứa thường được viện dẫn nhất để biện minh cho các rủi ro của AI là nó sẽ “chữa khỏi bệnh”. Mọi CEO của các phòng thí nghiệm AI lớn đều nói điều đó, và các nhà đầu tư dường như đồng ý: bất kỳ startup công nghệ sinh học nào có gắn mác AI đều có mức định giá ấn tượng, ngay cả khi các công ty công nghệ sinh học truyền thống hơn đang chật vật tìm kiếm nguồn vốn và dần lụi tàn. Nhưng toàn bộ doanh nghiệp này, như tôi đã lập luận từ lâu, bị kìm hãm bởi nhiều thứ chẳng liên quan gì đến “trí thông minh” theo đúng nghĩa, và việc mức độ đó thường không được thừa nhận là một điều kỳ lạ.

Bằng chứng ở khắp mọi nơi, nếu bạn coi sự tiến bộ khoa học là một thước đo tương đối cho trí thông minh và tự hỏi liệu chỉ riêng nó có thể khơi thông sự tiến bộ hay không. Hãy lấy Định luật Eroom (Eroom’s Law): số lượng thuốc mới được phê duyệt trên mỗi đô la R&D đã giảm trong nhiều thập kỷ, ngay cả khi các công cụ khoa học của chúng ta đã trở nên mạnh mẽ hơn rất nhiều, hoàn toàn trái ngược với những gì mà sự tồn tại của năng lực thô dự đoán. Hoặc hãy lấy một công ty như Adaptimmune, nơi đã đưa hai liệu pháp mang tính đột phá ra thị trường cho các bệnh ung thư hiếm gặp nhưng vẫn đang phải đấu tranh để tồn tại do chi phí phát triển chúng. Hoặc người ta có thể lắng nghe các nhà khoa học đứng sau “bé KJ”, đứa trẻ được cứu sống nhờ liệu pháp chỉnh sửa gen tùy chỉnh: họ có mọi thứ cần thiết về mặt khoa học nhưng vẫn không thể dễ dàng lặp lại điều đó cho đứa trẻ tiếp theo, bởi vì chi phí sản xuất, một phần do các yêu cầu về quy định, đang cản đường.

Đặc biệt trong lĩnh vực dược phẩm sinh học, một nút thắt lớn là các thử nghiệm lâm sàng (tôi biết mình cứ lải nhải về điều này), vốn hiện nay tiêu tốn khoảng bảy năm và hơn một tỷ đô la cho mỗi loại thuốc. Và các thử nghiệm không chỉ là một thủ tục hành chính. Chúng tạo ra chính xác loại dữ liệu dùng để huấn luyện các mô hình tốt hơn ngay từ đầu: dữ liệu con người, thứ cuối cùng là không thể thay thế.

Chúng ta có bằng chứng rộng rãi rằng các thử nghiệm lâm sàng nhanh hơn rất quan trọng đối với đổi mới y sinh, cả trực tiếp và gián tiếp, thông qua các hiệu ứng bậc hai (như tăng khẩu vị rủi ro của những người làm trong ngành và giúp điều chỉnh tốt hơn các động lực thông qua các vòng phản hồi nhanh). Điều này bao gồm từ các bài báo kinh tế vững chắc cho thấy các thử nghiệm ngắn hơn giúp thúc đẩy đầu tư vào một lĩnh vực bệnh tật một cách đáng kể, cho đến thí nghiệm tự nhiên của Trung Quốc. Trung Quốc đang đe dọa vượt lên trước Mỹ trong lĩnh vực công nghệ sinh học, với các công ty công nghệ sinh học Trung Quốc chiếm hơn một nửa số thỏa thuận cấp phép của các hãng dược phẩm lớn phương Tây. Chỉ một thập kỷ trước, con số này là bằng không. Sự chuyển đổi này diễn ra trong khi Trung Quốc vẫn kém hơn về khoa học cơ bản, chủ yếu là nhờ các cải cách quy định cho phép học tập lặp đi lặp lại nhanh hơn bằng cách sử dụng dữ liệu trên người.

Bản thân các thử nghiệm có thể được thực hiện ngắn hơn, nhiều thông tin hơn và tốt hơn, bao gồm cả việc sử dụng AI. Một lĩnh vực mà tôi đặc biệt lạc quan là các điểm cuối thay thế (surrogate endpoints) và dấu ấn sinh học (biomarkers), nơi AI có thể biến các kết quả đọc rời rạc, thô sơ về việc liệu một loại thuốc có hiệu quả hay không thành các kết quả nhanh chóng, liên tục. Điều này sẽ tối ưu hóa các thử nghiệm một cách đáng kể. Đối với một số chỉ định, mức tăng có thể nhanh hơn và rẻ hơn gấp 10 lần nếu tìm thấy các điểm thay thế phù hợp. Và đây thậm chí còn chưa tính đến những lợi ích của việc chỉ đơn giản là tối ưu hóa các thử nghiệm mà không nhất thiết phải rút ngắn chúng: hãy tưởng tượng việc có đúng dấu ấn sinh học cho bạn biết liệu một liệu pháp có đang hoạt động đủ sớm hay không.

Nhưng ngay cả ở đây, ràng buộc ràng buộc không hoàn toàn là trí thông minh. Rất thường xuyên, đó là quản trị. Tôi liên tục nói chuyện với các công ty đang cố gắng xây dựng chính xác những dấu ấn sinh học này, và điều họ gặp phải, hết lần này đến lần khác, là việc truy cập vào dữ liệu cơ bản khó khăn đến mức nào. Một số đã phải chờ đợi cả năm trời để NIH công bố các bộ dữ liệu hình ảnh mà họ có thể sử dụng để tạo ra các dấu ấn sinh học tốt hơn. Nếu cần tương tác với FDA để được xác nhận điểm cuối của họ, thì tình hình còn tồi tệ hơn: tôi đã từng viết về việc xác nhận Mật độ khoáng xương (BMD) để sử dụng làm điểm cuối thay thế trong các thử nghiệm loãng xương đã mất tới 12 năm (!), mặc dù thực tế là dữ liệu để hỗ trợ nó đã tồn tại đầy đủ và các phân tích được thực hiện về cơ bản chỉ là các phép hồi quy.

Khi những người trong lĩnh vực AI tham gia vào các quy định và quản trị trong y học, điều đó thường có vẻ diễn ra theo một cách khá hời hợt. Tôi đã thấy nhiều lần lập luận rằng vì hầu hết các loại thuốc thất bại do thiếu hiệu quả, nên quy định không thể giải thích nhiều về sự chậm trễ trong tiến bộ y tế so với khoa học cơ bản mà chúng ta đã chứng kiến trong những thập kỷ qua: suy cho cùng, việc phê duyệt thêm các loại thuốc không hiệu quả cũng chẳng ích gì. Phân tích này nghe có vẻ đúng về mặt bề nổi, nhưng không phải vậy. Như tôi vẫn nói, khi mọi người nói về tầm quan trọng của quy định trong việc làm chậm tiến bộ y sinh, họ hiếm khi ám chỉ đến quyết định phê duyệt cuối cùng. Đó là về toàn bộ quá trình thượng nguồn: dữ liệu con người có thể được thu thập dễ dàng như thế nào, và sau đó, một khi đã thu thập được, nó có thể thực sự được sử dụng dễ dàng như thế nào.

Tôi biết nhiều nhất về các thử nghiệm lâm sàng, nhưng đây không phải là lĩnh vực duy nhất mà quản trị và chính sách làm chậm tiến độ. Một ví dụ khác liên quan đến cách cấu trúc hệ thống bằng sáng chế của chúng ta định hình mức độ đổi mới của các loại thuốc.

Trong y sinh, chúng ta có một vấn đề gọi là "target herding" (đổ xô vào cùng một mục tiêu): hầu hết các công ty đều theo đuổi cùng một mục tiêu sinh học vì chúng đã được giảm thiểu rủi ro, điều đó có nghĩa là chúng ta khám phá ít hơn nhiều về không gian sinh học so với khả năng có thể. Cách rõ ràng nhất để thấy lý do tại sao là thông qua rủi ro. Hai loại rủi ro quan trọng trong khám phá thuốc. Rủi ro mục tiêu (Target risk) nắm bắt sự không chắc chắn về sinh học: liệu protein này có liên quan nhân quả đến bệnh tật hay không, và việc tác động vào nó có giúp ích cho bệnh nhân mà không gây độc tính không thể chấp nhận được không? Rủi ro thiết kế và tối ưu hóa phân tử là vấn đề hạ nguồn, phụ thuộc vào mục tiêu: thiết kế một phân tử mới chống lại một mục tiêu và cải thiện hiệu lực, tính chọn lọc, độ an toàn và vô số các đặc tính khác của một hóa chất (ví dụ: phân tử nhỏ) hoặc sinh học (ví dụ: kháng thể). Điều đó chủ yếu nằm trong lĩnh vực hóa học và về bản chất dễ giải quyết và dự đoán hơn nhiều; với một mục tiêu đã được xác nhận, các đội ngũ giỏi thường tạo ra được một phân tử khá tốt.

Hệ thống bằng sáng chế sau đó càng làm giảm động lực của các công ty trong việc chấp nhận rủi ro mục tiêu, bởi vì nó thưởng cho vật chất hóa học mới, chứ không phải sinh học mới. Thành phần vật chất là thứ mà hầu hết các bằng sáng chế bảo vệ. Điều đó đề cập đến một phân tử cụ thể, có nghĩa là chúng không bảo vệ cái nhìn sâu sắc rằng một mục tiêu nào đó đáng để bào chế thuốc.

Hiện tượng đổ xô vào mục tiêu (target herding) sau đó diễn ra gần như một cách máy móc từ những ràng buộc nêu trên: một mặt là thực tế rằng việc khám phá ra nhiều mục tiêu hơn thực sự khó khăn hơn, và mặt khác là hệ thống bằng sáng chế không khen thưởng điều đó. Bất cứ ai xác nhận một mục tiêu mới (và ngầm định là khám phá ra sinh học mới) đều gánh chịu rủi ro mục tiêu to lớn nhưng không thể nắm bắt được phần thưởng do cách thiết kế hệ thống bằng sáng chế: một khi một loại thuốc tiên phong (first-in-class) công bố dữ liệu lâm sàng thuyết phục, mục tiêu đó đã được xác nhận, và sự xác nhận đó về cơ bản là công khai. Các đối thủ cạnh tranh sau đó thiết kế các phân tử khác biệt chống lại cùng một mục tiêu đã được giảm thiểu rủi ro, và mỗi kẻ theo sau nhanh chóng (fast-follower) đều kiếm được bằng sáng chế mạnh mẽ của riêng mình. Vì vậy, các công ty cuối cùng đổ xô vào các mục tiêu đã được chứng minh thay vì xác nhận những mục tiêu mới, vì vậy chúng ta nhận được hết đợt thuốc này đến đợt thuốc khác nhắm vào cùng một loại sinh học.

Một nhà lãnh đạo phi lợi nhuận nổi tiếng, người tài trợ cho công việc về cơ sở phân tử của các bệnh chết người, bao gồm cả các nỗ lực do AI dẫn dắt để tìm ra các mục tiêu mới, đã nói với tôi rằng hệ thống sở hữu trí tuệ hiện tại khiến tổ chức mà ông hỗ trợ gần như không thể nắm bắt được giá trị mà nó tạo ra bằng cách khám phá ra sinh học mới. Ông ấy vẫn vui vẻ tiếp tục tài trợ cho nó, nhưng tin rằng mọi người sẽ được phục vụ tốt hơn nếu giá trị đó có thể nắm bắt được, và các động lực hiện nay đang bị lệch lạc nghiêm trọng.

Trớ trêu thay, các công ty AI-cho-sinh học thu hút được các vòng gọi vốn lớn nhất chủ yếu nhắm vào cùng một vấn đề đã được giải quyết tốt là thiết kế và tối ưu hóa phân tử. Ví dụ, Chai Discovery, hiện được định giá 3,8 tỷ USD, một con số khổng lồ theo tiêu chuẩn công nghệ sinh học giai đoạn đầu, và Isomorphic Labs đều, về cốt lõi, là các công cụ thiết kế và tối ưu hóa phân tử: họ thiết kế các hợp chất tốt hơn nhanh hơn và chính xác hơn, khi đã có mục tiêu. Điều này rất tuyệt, nhưng như tôi và những người khác đã lập luận trước đây, việc mở rộng biên giới của các mục tiêu đã được xác nhận sẽ mang lại giá trị tổng thể lớn hơn cho xã hội. Tuy nhiên, đây chính xác là phần mà hệ thống bằng sáng chế không khuyến khích. Hóa ra ngay cả các công ty do AI dẫn dắt cuối cùng cũng phản ứng với các động lực kinh tế và pháp lý!

Tôi nghi ngờ rằng nguyên tắc tương tự cũng áp dụng cho nhiều lĩnh vực ngoài y học. Sự khuếch tán (diffusion) là khó khăn, và tốc độ mà một công nghệ thực sự lan rộng trong nền kinh tế không hoàn toàn hoặc thậm chí chủ yếu được dự đoán bởi tốc độ thô của sự tiến bộ cơ bản của nó. Một năng lực tồn tại không giống như một năng lực được hấp thụ vào các tổ chức, và có lẽ quan trọng nhất là được chuyển đổi thành các kết quả mà mọi người quan tâm.

Và có bằng chứng rộng rãi rằng đây là trường hợp thực tế.

Đi dạo quanh thế giới ngày nay, người ta có thể nhận thấy rằng nó vẫn không thay đổi một cách kỳ lạ. LLM có thể tạo ra các tác nhân và viết các ứng dụng phức tạp, nhưng một thứ trần tục như dịch vụ khách hàng vẫn chưa được tự động hóa tốt. Trên thực tế, thường thì các chatbot tự động lại là phần tồi tệ nhất của trải nghiệm. GDP tăng, điều đó tốt, nhưng nó không tăng đáng kể. Và các công việc cấp thấp, bất chấp những cảnh báo lặp đi lặp lại về một ngày tận thế, dường như vẫn còn nguyên vẹn, nếu không muốn nói là đang tăng lên.

Đối với nhiều người, điều này thật đáng ngạc nhiên. Chỉ mới hôm nọ, tôi tham dự một hội nghị nơi ai đó nhận xét rằng nếu anh ta có thể nhìn thấy các khả năng của AI ngày nay từ vài năm trước, anh ta sẽ rất kinh ngạc — và sẽ cho rằng thế giới đến nay sẽ trông biến đổi hơn nhiều, với tăng trưởng GDP cao hơn nhiều. Nó được đưa ra như một quan sát mới mẻ. Nhưng trên thực tế, nó đã được đưa ra trước đây, và toàn bộ quỹ đạo này khá dễ dự đoán đối với những người suy nghĩ về các rào cản thực tế đối với sự khuếch tán. Tôi nhớ một Hội nghị Tiến bộ (Progress Conference) năm 2023, nơi nhà kinh tế học Tyler Cowen đã đưa ra chính xác lập luận này trước một căn phòng đầy những người bị “ám ảnh bởi AGI”, nhiều người trong số họ thực sự hoài nghi. Ông gợi ý rằng các khả năng sẽ đến nhanh hơn những thay đổi mà chúng được cho là sẽ tạo ra; tăng trưởng GDP sẽ gây thất vọng so với sự cường điệu, và sẽ không có sự dịch chuyển việc làm ồ ạt. Cho đến nay, dữ liệu dường như chứng minh ông ấy đúng.

Những người nhìn thấy điều này đến đơn giản là có cảm nhận tốt hơn về ma sát, về việc một công nghệ thực sự khuếch tán vào thế giới chậm chạp và không đồng đều như thế nào. Thật kỳ lạ, đối với tôi, giới công nghệ nòng cốt ở San Francisco, đầy những người đặc biệt thông minh, lại không có cảm nhận đó. Làm thế nào mà nhiều người thông minh như vậy lại có thể chia sẻ cùng một điểm mù này?

Quan điểm của tôi là một số cộng đồng nhất định ở San Francisco (từ nay tôi sẽ gọi là “người SF”, mặc dù tôi không có ý nói theo nghĩa đen là tất cả mọi người hay thậm chí là hầu hết mọi người ở SF) đã trở thành một thứ gì đó gần giống như một nền văn hóa đơn nhất (monoculture), và nền văn hóa đơn nhất này có hai đặc điểm củng cố lẫn nhau. Thứ nhất là việc gợi ý rằng AGI có thể không hoàn toàn mang tính biến đổi, ít nhất là không phải tự thân nó, đã trở thành một điều thực sự bị coi là thấp kém. Những người sớm nhận ra và đúng về tiềm năng của AI đã kiếm được rất nhiều tiền, và việc đúng về điều lớn lao đã cứng hóa thành một giả định rằng họ đúng về mọi thứ. Đặt câu hỏi về những tuyên bố cực đoan nhất là bị coi là kém cỏi, chỉ số IQ thấp, không đủ “bị ám ảnh bởi AGI”. Niềm tin vẫn tồn tại rằng bất kỳ ai làm việc tại một phòng thí nghiệm, đặc biệt là CEO, đều nắm giữ những bí mật về tương lai mà không người ngoài nào có thể tiếp cận. Kết quả là sự tự kiểm duyệt: rất nhiều người thông minh mà tôi biết ở San Francisco nhìn thấy những nút thắt đối với sự khuếch tán của AI nhưng không nói gì để có vẻ “bị ám ảnh bởi AGI” hơn.

Nhưng làm thế nào những người thông minh như vậy lại có thể sai… Về bất cứ điều gì? Tôi không nghĩ có điều gì kỳ lạ hay bất thường về điều đó và trong một thời đại khôn ngoan hơn, chúng ta sẽ thấy dễ dàng hơn để diễn đạt nó. Tôi đã nói trước đây rằng con người giỏi nhất vẫn còn rất xa so với con người trung bình, nhưng Chúa vẫn còn xa hơn nhiều so với con người giỏi nhất. Nghĩa là không ai, dù thông minh, quyền lực và giàu kinh nghiệm đến đâu, đều có tất cả các câu trả lời.

Không chỉ vậy, tôi nghĩ rằng những người chiến thắng trong cuộc đua AI có thể bị hiệu chỉnh sai theo một cách có thể đã giúp ích trong nỗ lực cốt lõi của họ, phát triển AI, nhưng lại không thích nghi khi đánh giá những thứ ngoài phạm vi đó. Sự ảo tưởng thường mang tính thích nghi trong các startup: một niềm tin vô lý chính là điều cho phép một nhóm nhỏ thử làm điều không thể và thỉnh thoảng thực hiện được nó. Byrne Hobart và Tobias Huber đưa ra một phiên bản của lập luận này trong cuốn *Boom*, lập luận rằng các bong bóng tài chính, thường bị coi là có tính hủy diệt, trên thực tế lại là động cơ của sự tiến bộ đột phá: những gì trông giống như sự ảo tưởng tập thể thường là thứ tài trợ và thúc đẩy sự tiến bộ thực sự. Nhưng điều đó có hai mặt. Việc ảo tưởng một cách hiệu quả và giành chiến thắng không làm cho người ta đúng về mọi thứ khác. Trên thực tế, chính đặc điểm tạo ra thành công đó cũng có thể làm tăng sự tự tin theo những cách không hiệu quả trong các lĩnh vực khác.

Đặc điểm thứ hai của nền văn hóa đơn nhất này là một kiểu phản biện giả tạo. Bởi vì hầu hết thế giới bên ngoài từ lâu đã hoài nghi về tiềm năng của AI, nên mọi người ở San Francisco cảm thấy mình là những người bất đồng chính kiến dũng cảm. Điều này bất chấp thực tế rằng, trong vòng tròn của chính họ, việc giữ những quan điểm đó là vị thế an toàn và mang lại địa vị. Tự tin mình là một người phản biện bị hiểu lầm là một điều gây say mê, và nó làm cho niềm tin cơ bản khó bị lung lay hơn.

Khi tôi còn là một học giả, tôi thường nhận thấy rằng các học giả, nhìn chung, là những người tiến bộ sâu sắc, nhưng lại tự coi mình là những người phản biện. Điều này ít nhất một phần là do hầu hết họ đến từ những nơi bảo thủ hơn trường đại học. Họ tụ tập, so sánh mình với thế giới bên ngoài thay vì với nhau, và kết luận rằng sự tiến bộ của họ bằng cách nào đó là dũng cảm, mặc dù đó là sự đồng thuận rõ ràng của căn phòng. Theo quan điểm của tôi, SF đã làm điều tương tự với AI. Trong giới công nghệ tinh hoa, việc coi trọng AGI hoàn toàn không phải là phản biện; nếu có thì ngược lại. Nhưng vì lớp so sánh luôn là người khác: ví dụ, một người làm chính sách ở DC, cảm giác bất đồng chính kiến bị bao vây vẫn tồn tại sau khi tiếp xúc với thực tế.

Tôi cho rằng câu hỏi đặt ra là liệu bất kỳ điều này có quan trọng hay không. Tại sao nó lại tệ? Theo những gì tôi biết, cơn sốt Chúa AGI nên tiếp tục trong bong bóng công nghệ. Nhưng nó đang len lỏi vào diễn ngôn công chúng chung theo cách có thể điều chỉnh lại các ưu tiên theo cách tồi tệ.

Ở mức độ cơ bản nhất, tôi nghĩ việc gần gũi hơn với sự thật thực nghiệm đơn giản là tốt hơn là xa rời nó. Nhưng có một cái giá cụ thể hơn: những niềm tin sai lầm có thể dẫn đến những ưu tiên sai lầm. Vì tôi thực sự mong đợi AI sẽ gây gián đoạn (mặc dù không nhất thiết theo cùng những cách mà đám đông SF nghĩ), đây có thể là thời điểm đặc biệt tồi tệ để có những ưu tiên tồi tệ.

Một lần nữa, tôi sẽ đưa ra ví dụ về y học: chúng ta có thể đang nhắm nỗ lực của mình vào sai các nút thắt. Trong y học, như tôi đã lập luận, cải cách quy định nhận được một phần nhỏ sự chú ý so với sinh học hỗ trợ bởi AI và ngay cả trong sinh học hỗ trợ bởi AI, các can thiệp thực sự tạo ra thay đổi thường là những thứ có vẻ ít được tài trợ hơn.

Và điều này còn vượt xa y học. Chúng ta cố định vào các vị thần AGI, trong khi những vấn đề trần tục hơn chồng chất mà không được quan tâm. Cấu trúc xã hội đang rạn nứt ngay trước mắt. Ngày càng có nhiều thanh niên không đủ khả năng mua nhà hoặc duy trì một mối quan hệ. Mọi người đổ tuổi trẻ của mình vào các ứng dụng cờ bạc, một số trong đó giờ đây trở nên mạnh mẽ hơn nhờ chính AI mà chúng ta cứ thảo luận mãi. Mọi người đang mất dần kỹ năng khi họ giao nhiều suy nghĩ hơn cho máy móc. Tôi đôi khi nói rằng tôi ít lo lắng về việc AI sẽ lấy mất công việc của mình hơn là việc mọi người sẽ trở nên quá thờ ơ để đọc bất cứ thứ gì. Mỗi vấn đề trong số này đều cần những người làm việc để giải quyết. Việc bị mê hoặc bởi các vị thần kỹ thuật số sẽ giải quyết một cách kỳ diệu mọi vấn đề của chúng ta sẽ kéo sự chú ý ra khỏi những rắc rối đơn giản, mang tính con người hơn vốn đã tồn tại ở đây.