Import AI 473: Chiến lược siêu trí tuệ của Mỹ, não người trong hộp sọ chuột và thông diễn học máy

Chào mừng bạn đến với Import AI, bản tin về nghiên cứu AI. Import AI vận hành nhờ arXiv, những tách cappuccino và phản hồi từ độc giả. Nếu bạn muốn ủng hộ bản tin này, vui lòng đăng ký theo dõi.

Đăng ký ngay

RAND cho rằng chiến lược AI tốt nhất cho Hoa Kỳ là giữ cho mọi phương án đều mở:…Vì chưa rõ chính xác đâu là tối ưu, nên Hoa Kỳ nên chi tiền ngay bây giờ để bảo toàn các lựa chọn…RAND đã công bố một bài báo dài về những việc Hoa Kỳ nên làm để “đảm bảo lợi thế địa chính trị trên con đường không chắc chắn dẫn đến siêu trí tuệ”. Điểm mấu chốt là vì phần lớn các giai đoạn tiếp theo của quá trình bùng nổ AI vẫn còn là ẩn số, điều tốt nhất Hoa Kỳ nên làm là duy trì chiến lược “Tự do Hành động” (Freedom of Action). Mục đích của chiến lược này là “xây dựng và bảo tồn khả năng đảm bảo lợi thế địa chính trị của Hoa Kỳ và đảm bảo sự sống còn của nhân loại với quyền tự chủ trong quá trình chuyển đổi sang Siêu trí tuệ”.

Bốn thành phần chính của Chiến lược Tự do Hành động:

Xây dựng hệ sinh thái con người-AI: Đầu tư vào an toàn AI; xây dựng các công cụ để bảo tồn quyền tự chủ của con người; đầu tư vào việc chia sẻ lợi ích của công nghệ; chuẩn bị cho xã hội trước những gián đoạn do AI gây ra; định hình các động lực của hệ sinh thái AI.

Xây dựng kiến trúc an ninh AI: Phát triển các công cụ để hiểu về biên giới của các hệ thống AI cả trong và ngoài nước, bao gồm khả năng quan sát hạ tầng tính toán cơ bản; xây dựng công nghệ để xác minh các thỏa thuận tiềm năng; tạo ra chuyên môn quản lý để điều tiết công nghệ.

Thích ứng các doanh nghiệp an ninh quốc gia truyền thống với kỷ nguyên AI: Đại tu tất cả các thể chế an ninh của đất nước để họ sẵn sàng cho những thay đổi mà AI mang lại và có khả năng tận dụng các năng lực của AI.

Đầu tư vào năng lực phản ứng của công dân, doanh nghiệp và chính phủ: Cung cấp thông tin cho các nhà hoạch định chính sách để giúp họ suy nghĩ về AI; phát triển và phổ biến các ứng dụng tích cực của AI để đối phó với những thay đổi của nó; xây dựng các kế hoạch khẩn cấp để ứng phó với khủng hoảng; nâng cao hiểu biết về AI.

Bảy chiến lược nguyên mẫu trong ba nhóm:

Chung sống (Coexistence): Thống trị; Hoa Kỳ dẫn đầu sự phát triển AI và ngăn chặn các bên khác. Đồng phát triển; Hoa Kỳ dẫn đầu một liên minh (bao gồm cả Trung Quốc) để cùng phát triển siêu trí tuệ an toàn với cơ chế quản trị chung, chia sẻ tài nguyên tính toán, cùng xác minh và giám sát. Chuẩn bị; Hoa Kỳ huy động nỗ lực chung sống thông qua phối hợp phi chính thức, “bao gồm các cam kết tự nguyện, triển khai theo giai đoạn, đánh giá độc lập, báo cáo sự cố và năng lực nội địa để hấp thụ và phục hồi sau các sự cố AI.”

Từ chối (Denial): Tạm dừng; Hoa Kỳ theo đuổi “một lệnh tạm dừng phát triển AI toàn cầu có thể xác minh được trên các ngưỡng nhất định”. Răn đe; Hoa Kỳ “tạm dừng sự phát triển biên giới của chính mình trên các ngưỡng đã xác định và sử dụng toàn bộ công cụ quyền lực quốc gia để ngăn chặn và, nếu cần thiết, tiêu diệt các chương trình nước ngoài”. Duy trì xã hội; “Khi mọi chiến lược phòng ngừa đã thất bại hoặc bị đánh giá là không khả thi, và việc chung sống được coi là không thể, mục tiêu còn lại là sự sống còn với một số nhóm dân cư vẫn giữ được quyền tự chủ: Hoa Kỳ tạo ra các khu định cư phân tán về địa lý, tự duy trì về mặt sinh học và được củng cố để chống lại các mối đe dọa từ AI”.

Tăng tốc (Acceleration): Chiến lược này tin tưởng ngầm rằng việc hạn chế phát triển AI còn nguy hiểm hơn chính sự phát triển AI, vì vậy Hoa Kỳ “dựa vào thị trường, sự cạnh tranh và sự lặp lại nhanh chóng để tạo ra sự an toàn như một sản phẩm phụ của AI hữu ích”.

Năm điểm không chắc chắn chính:

Khoảng cách nguy hiểm: Tại thời điểm nào AI trở nên nguy hiểm đến mức rủi ro không còn xứng đáng với lợi ích? “Nếu nguy hiểm ở gần, các chiến lược mua thời gian, xây dựng phòng thủ và đầu tư vào khả năng phục hồi nên được ưu tiên. Nếu nguy hiểm chưa gần hoặc nếu con người gặp nguy hiểm lớn hơn khi không có tiến bộ về AI tiên tiến, thì lập luận cho việc tăng tốc phát triển sẽ mạnh mẽ hơn.”

Tính khả thi của việc chung sống: Liệu con người và các hệ thống AI có thể tìm thấy trạng thái cân bằng ổn định không? “Nếu việc chung sống là khả thi, các chiến lược xây dựng và triển khai AI tiên tiến sẽ trở nên đáng mong đợi hơn. Nếu việc chung sống không khả thi, lập luận sẽ chuyển sang hướng hạn chế hoặc ngăn chặn sự phát triển hoặc các phương tiện khác để bảo vệ nền văn minh nhân loại.”

Tính khả thi của việc kiềm chế: Liệu con người có thể hợp tác để kiềm chế sự phát triển AI không? “Nếu việc kiềm chế là khả thi, các chiến lược hợp tác sẽ trở nên khả dụng. Nếu không, các phương pháp dựa trên sự kiềm chế chỉ có thể đạt được thông qua việc thực thi mang tính cưỡng chế hơn.”

Lợi thế chiến lược quyết định: Liệu một tác nhân duy nhất có thể xây dựng lợi thế chiến lược quyết định so với các đối thủ cạnh tranh không? “Nếu lợi thế quyết định có thể đạt được và Hoa Kỳ đánh giá rằng họ có thể duy trì sự thống trị, một chiến lược đơn phương có thể là hợp lý. Nếu lợi thế quyết định là không thể, do sự phổ biến hoặc các nguyên nhân khác, không một tác nhân đơn lẻ nào có thể tận dụng AI để áp đặt các điều kiện toàn cầu.”

Tính khả thi của việc ngăn chặn: Liệu các chương trình AI trong nước hoặc của đối thủ có thể bị ngăn chặn bằng các biện pháp kiểm soát công nghệ không? “Nếu việc ngăn chặn là khả thi, sự Răn đe trở nên khả thi. Nếu không, các tác nhân có thể tiếp tục phát triển nguy hiểm ngay cả khi những người khác kiềm chế, mà không sợ bị kiềm chế.”

Tại sao điều này quan trọng – coi trọng AI đòi hỏi phải chi tiền: Điểm mấu chốt từ bài viết của RAND là Hoa Kỳ cần chi rất nhiều tiền nếu muốn định vị bản thân để tận dụng sự tiến bộ liên tục trong trí tuệ nhân tạo – ngay cả khi việc định vị chính là giữ lại các tùy chọn. Hiện tại, có vẻ như chiến lược của Hoa Kỳ chủ yếu có thể được mô tả là chiến lược “tăng tốc” mà RAND đã nêu, điều này giống như việc ngồi trong một chiếc xe và dành tất cả nguồn lực để làm cho xe chạy nhanh hơn và nâng cấp động cơ, nhưng không dành gì cho các biện pháp an toàn chủ động như dây an toàn, đèn pha hay phanh. Đọc thêm: A U.S. Strategy to Secure Geopolitical Advantage on an Uncertain Path to Superintelligence (RAND).

***

Các nhà nghiên cứu nuôi chuột với một phần mô não người:…Khi nào một con chuột không còn là chuột? Khi một phần não của nó là mô não người…Một nhóm các nhà nghiên cứu đã tìm ra cách nuôi các khối não giống não người bên trong những con chuột con đã bị loại bỏ một phần não bộ, sau đó sử dụng những con vật này làm nền tảng thí nghiệm tiềm năng để nghiên cứu các vấn đề về não người. “Chúng tôi thiết lập một nền tảng cấy ghép sử dụng chiến lược di truyền để loại bỏ hiệu quả các tế bào thần kinh glutamatergic khỏi vỏ não và hồi hải mã của chuột (apallial) và cấy ghép vào khoang vỏ não ở giai đoạn sơ sinh các cơ quan vỏ não có nguồn gốc từ tế bào gốc người (hCO) để tạo ra những con chuột xenocortical,” các tác giả viết. “Các tế bào thần kinh vỏ não người tích hợp với hệ thống thần kinh của chuột, và các phân tích hình ảnh canxi và điện sinh lý trên toàn bộ mảnh ghép vỏ não in vivo đã tiết lộ các mô hình hoạt động có tổ chức giống như các mạch đang phát triển.”

Những con chuột với não người vẫn ổn: Trong các nghiên cứu, các nhà khoa học đã so sánh chuột đối chứng (chuột có não bình thường), với chuột bị giảm não bộ có chủ đích (chuột apallial), và chuột được cấy ghép mô não người (chuột xenocortical, hay XCX). “Học máy không giám sát áp dụng cho hành vi tự phát của chuột bằng cách sử dụng trình tự chuyển động (MoSeq) đã tiết lộ các tiết mục hành vi riêng biệt ở chuột đối chứng và chuột apallial, với nhóm XCX nằm ở vị trí trung gian giữa, nhưng khác biệt với cả hai nhóm đối chứng và apallial”, họ viết. “Dữ liệu chỉ ra rằng mảnh ghép thần kinh người phát triển thành một mạng lưới tích hợp chức năng, hoạt động bằng điện… phân tích làm giàu tập gen của các tế bào thần kinh XCX L5-ET cho thấy sự làm giàu các gen L5-ET đặc trưng của người được xác định trong vỏ não vận động sơ cấp, cũng như các gen đặc trưng của tế bào thần kinh L5-ET trong vỏ não trán-đảo của người, nơi chứa VENs—một quần thể chuyên biệt liên quan đến nhận thức xã hội và bệnh tâm thần kinh”.

Thử nghiệm mê cung: Các nhà nghiên cứu đã thử nghiệm những con chuột trong môi trường mê cung được thiết kế để chúng phải “duy trì dấu vết trí nhớ về các môi trường đã khám phá trước đó”, và khi đưa chuột vào, họ quan sát thấy “chuột đối chứng và XCX, nhưng không phải chuột apallial, đã thực hiện tốt hơn mức ngẫu nhiên”. Điều này cho thấy mô não người có khả năng thực hiện một số chức năng trí nhớ.

Tại sao điều này quan trọng – y học và siêu trí tuệ: Mục đích chính ở đây là có thể thử nghiệm tốt hơn các liệu pháp y tế cho não người trên chuột, một bộ công cụ quan trọng trong việc phát triển các loại thuốc mới. Nhưng tôi cũng nghĩ đây là minh chứng cho không gian rộng lớn của các loại trí tuệ có thể được xây dựng trong tương lai bởi các nhà khoa học con người và AI; ở đây, chúng ta có một loại não chimera kết hợp não chuột và não người lại với nhau. Những thí nghiệm như vậy có thể đi xa đến đâu? Chúng ta có thể tưởng tượng việc thực hiện các thí nghiệm như vậy trên các sinh vật sống khác không? Trên con người? Có những vấn đề y tế và đạo đức to lớn ở đây, nhưng bằng chứng cho thấy nó hoạt động trên chuột chắc chắn gợi ý rằng vào một lúc nào đó, nó có thể được thử nghiệm trên các đối tượng khác. Đọc thêm: Developmental xenocortication using human-derived organoids in mice (Nature).

***

Hướng tới chương trình nghị sự nghiên cứu về việc điều tiết tốc độ tiến bộ AI:…Thế giới có thể làm gì để cụ thể hóa việc điều tiết tốc độ và đưa ra các quyết định tốt hơn về nó? Thực ra là rất nhiều…Với tất cả những cuộc thảo luận gần đây về tốc độ AI và việc làm chậm AI, đã có rất nhiều sự nhiệt tình cho ý tưởng chung này, nhưng lĩnh vực nghiên cứu thực tế về cách điều tiết tốc độ tiến bộ AI (trái ngược với việc dừng hoàn toàn) vẫn còn tương đối kém phát triển. Hiện nay, các nhà nghiên cứu đang bắt đầu suy nghĩ về việc một chương trình nghị sự nghiên cứu về điều tiết tốc độ có thể trông như thế nào, và một bài báo mới đã đưa ra một số tư duy có thể được phát triển tại đây. “Đưa ra những lựa chọn đúng đắn về tốc độ phát triển AI sẽ rất quan trọng đối với mọi thứ, từ an ninh quốc gia đến sức khỏe cộng đồng. Thật vậy, những lựa chọn mà các chính phủ, nhà phát triển AI và các tác nhân chính khác đưa ra trong vài năm tới có thể sẽ lan tỏa trong nhiều thập kỷ hoặc thế kỷ,” các nhà nghiên cứu viết trong một bài báo nhóm mới. “Thế giới sẽ điều tiết tốc độ tiến bộ theo cách này hay cách khác. Nếu thiếu các công cụ tốt hơn, nó có thể thực hiện một cách ngẫu nhiên, thông qua các phản ứng ứng biến quá mức so với kỳ vọng trước đó, theo những cách không thực sự giải quyết được rủi ro, thông qua các thể chế tồn tại lâu hơn công dụng của chúng. Hy vọng của chúng tôi là, với nghiên cứu phù hợp, việc điều tiết tốc độ có thể trở nên ngày càng có chủ đích, có mục tiêu, tương xứng, quyết đoán và hợp pháp hơn.”

Ai đã thực hiện nghiên cứu: ACS Research, Đại học Toronto, Arb Research, Paradigm 3 Institute, Trường Wharton thuộc Đại học Pennsylvania, Goodheart Labs, Trajectory Institute, Đại học Harvard và Đại học Cambridge.

Các lập luận chống lại việc điều tiết tốc độ: Làm chậm các lợi ích như chăm sóc sức khỏe và các đột phá dựa trên khoa học khác; có khả năng làm tăng sự tập trung quyền lực; có thể tạo ra cảm giác an toàn giả tạo và tạo ra nhiều sự dư thừa năng lực AI do chi phí tính toán giảm trong thời gian điều tiết; điều tiết tốc độ sớm có thể kém hiệu quả hơn so với điều tiết muộn do khả năng sử dụng AI để thực hiện việc điều tiết một cách chính xác và hiệu quả hơn; rất khó để đảo ngược một chế độ điều tiết tốc độ nếu bạn làm sai (ví dụ: năng lượng hạt nhân).

Các lập luận ủng hộ việc điều tiết tốc độ: Cho chúng ta nhiều thời gian hơn để đối phó với các mối đe dọa do tiến bộ AI gây ra (ví dụ: mạng và sinh học); rất khó để dự đoán tiến bộ AI nên những điều đáng sợ không thể đoán trước có thể xảy ra; tiến bộ AI có thể dẫn đến các tình huống thua-thua cho thế giới (ví dụ: chính phủ từ bỏ quyền kiểm soát đối với một số quyết định quân sự và trao chúng cho các hệ thống AI, dẫn đến việc con người mất quyền lực).

Hiểu về các động lực: “Tác động thực tế của một sự can thiệp sẽ phụ thuộc đáng kể vào cách các bên bị ảnh hưởng phản ứng với chúng, bao gồm cả các tác nhân thực thi sự can thiệp đó”. Các chính phủ có những động lực khác nhau, vừa muốn cạnh tranh với nhau để giành lợi thế, nhưng cũng cần phải đáp ứng các mối quan tâm của công dân và cách điều đó liên quan đến chính trị trong nước. Các nhà cung cấp hạ tầng, đặc biệt là các công ty bán dẫn và đám mây, có động lực lớn nhất để thúc đẩy phía trước và có nhiều thứ để mất nhất bởi việc điều tiết tốc độ. Điều này có nghĩa là “thay vì dựa vào các sự can thiệp tự nguyện, đơn phương, một số bối cảnh sẽ đòi hỏi sự điều tiết tốc độ có phối hợp. Điều này nặng nề hơn, vì nó đòi hỏi sự phối hợp trong các giai đoạn khác nhau của việc điều tiết tốc độ, và sau đó là các cơ chế để đảm bảo sự phối hợp đó được duy trì”. Cùng với đó, cần có nghiên cứu để cải thiện các sự can thiệp kỹ thuật và quy định: “Tất cả các sự can thiệp đều phải đối mặt với sự đánh đổi, nhưng các cơ chế phối hợp và giám sát mới cùng việc lập kế hoạch trước có thể cho phép các lựa chọn tốt hơn hẳn”. Các tác giả cũng khuyến nghị điều tra toàn bộ vòng đời của một sự can thiệp điều tiết tốc độ: “Bằng cách xem xét toàn bộ trình tự từ trước đến sau, chúng ta có thể phát hiện ra các lỗ hổng”.

Điều tiết cái gì và như thế nào: Bạn có thể nhắm mục tiêu vào nhiều thứ khác nhau để điều tiết tốc độ, bao gồm đầu vào và hạ tầng (tính toán, dữ liệu, năng lượng, vốn, nhà nghiên cứu), phát triển năng lực (R&D thuật toán, tiền huấn luyện, hậu huấn luyện), trọng số của chính các mô hình, và việc sử dụng và phân phối (sử dụng nội bộ, triển khai, quyền truy cập (ví dụ: trọng số) và các hình thức phổ biến khác). Một số mục tiêu điều tiết tốc độ, như tính toán và thời gian của nhà nghiên cứu, là “hàng hóa cạnh tranh: tài nguyên mà việc sử dụng của một tác nhân hạn chế sự sẵn có của chúng đối với những người khác”, trong khi những thứ khác như trọng số và thuật toán huấn luyện là “hàng hóa không cạnh tranh… những thứ này đều có thể được sao chép và chia sẻ với chi phí thấp”. Điều này có nghĩa là có các sự can thiệp khác nhau; hàng hóa cạnh tranh có thể được giám sát hoặc đánh thuế hoặc chuyển hướng, trong khi hàng hóa không cạnh tranh cực kỳ khó kiểm soát. “Thời điểm thực tế của một sự can thiệp điều tiết tốc độ cuối cùng sẽ phụ thuộc vào tính toán chiến lược và chính trị của các tác nhân có thể thực hiện nó, và có thể liên quan nhiều hơn đến cơ hội chính trị, nhận thức của công chúng, các sự cố nổi bật hoặc các nỗ lực vận động”.

Các câu hỏi cần đặt ra khi bạn nghĩ về việc điều tiết tốc độ:

Trước khi điều tiết tốc độ: “Điều gì biện minh cho sự cần thiết phải can thiệp? Những tín hiệu nào về rủi ro mới nổi đang được theo dõi? Hạ tầng nào phải tồn tại để các tín hiệu liên quan có thể phát hiện được? Ai theo dõi các tín hiệu này? Ai giải thích các tín hiệu và họ báo cáo cho ai?”

Tại thời điểm kích hoạt: “Ai nắm giữ thẩm quyền quyết định rằng một điều kiện kích hoạt đã được đáp ứng? Mức độ sai sót nào là chấp nhận được để hành động nhanh chóng? Trình tự hành động nào mà việc kích hoạt sẽ khởi động? Nhà phát triển có nghĩa vụ giải quyết mối quan tâm kích hoạt, hay được tự do từ bỏ con đường bị chặn?”

Trong quá trình can thiệp: “Việc tuân thủ được quan sát, xác minh và thực thi như thế nào? Ai báo cáo bằng chứng tuân thủ, ai kiểm toán và ai hành động khi có sự khác biệt? Thời gian ngừng hoạt động đang được sử dụng như thế nào để ứng phó với mối đe dọa? Ai, nếu có, có thể tiếp tục công việc bị hạn chế và dưới sự giám sát nào?”

Khi kết thúc: “Các nhà hoạch định chính sách phân biệt như thế nào giữa một sự can thiệp đã hoàn thành mục đích của nó với một sự can thiệp đã thất bại hoặc trở nên lỗi thời? Việc kết thúc nên diễn ra ngay lập tức hay theo giai đoạn? Ai phải chịu tác động của việc kết thúc, và ai chịu bất kỳ chi phí nào hoặc nhận được bất kỳ lợi ích nào?”

Tại sao điều này quan trọng – dao mổ so với súng hỏa mai cho vấn đề quan trọng nhất của thế kỷ: Như các tác giả lưu ý, một hình thức điều tiết tốc độ nào đó sẽ xảy ra vào một lúc nào đó – công nghệ dường như quá mạnh mẽ, nền kinh tế chính trị quá lộn xộn và rủi ro quá cao để bất cứ điều gì khác xảy ra. Câu hỏi đặt ra trước tất cả chúng ta là chúng ta muốn việc điều tiết tốc độ đó chính xác hay không chính xác đến mức nào khi nó xảy ra; càng nhiều người có thể giúp phát triển nền tảng lý thuyết của một chương trình nghị sự điều tiết tốc độ, thì cơ hội họ có thể sử dụng dao mổ khi đến lúc cần điều tiết thay vì súng hỏa mai càng lớn. Đọc thêm: Pacing the Frontier, a Framework & Research Agenda (pacing.tech).

***

Thế giới mô hình AI “không kiểm duyệt” trông như thế nào?…Chủ yếu là các chatbot táo bạo, và nhiều nhà phân phối hơn là nhà sản xuất các mô hình không kiểm duyệt…Startup 10a Labs đã lập bản đồ cộng đồng được hình thành xung quanh việc xây dựng và phân phối các hệ thống AI không kiểm duyệt, phát hiện ra rằng HuggingFace lưu trữ 3.471 kho lưu trữ mô hình không kiểm duyệt. Không kiểm duyệt “đề cập đến các kỹ thuật cố tình loại bỏ các rào cản an toàn thường có khi các mô hình trọng số mở được phát hành ra công chúng”, ví dụ như xóa bỏ không gian kích hoạt (loại bỏ các hướng từ chối), tinh chỉnh độc hại, hợp nhất mô hình, cùng những kỹ thuật khác. Năm họ mô hình sửa đổi hàng đầu: Qwen, Llama, Gemma, MistralMixtral và Phi. Ba loại mô hình không kiểm duyệt hàng đầu: Chatbot không kiểm duyệt, công cụ an ninh mạng và công cụ xử lý tài liệu.