CEO Microsoft AI Mustafa Suleyman: Cần kiểm soát chặt AI và phản đối hướng đi của Anthropic

Hôm nay, tôi trò chuyện với Mustafa Suleyman, CEO của Microsoft AI. Như bạn chắc hẳn đã biết, câu chuyện lớn nhất trong giới công nghệ hiện nay chính là cuộc tranh luận không hồi kết về vấn đề an toàn và quản lý AI.

Không có gì ngạc nhiên khi Mustafa có những quan điểm mạnh mẽ về cách thức xây dựng và quản lý AI. Microsoft vừa công bố một bản tuyên bố dài 37 trang có tên "Bộ quy tắc ứng xử AI nhân văn" (Humanist AI Code of Conduct), trong đó vạch ra các nguyên tắc của công ty về phát triển AI và thậm chí là triết lý của họ về những vấn đề hóc búa như ý thức của AI.

Nếu bạn còn nhớ lần xuất hiện trước của anh ấy trên chương trình, Mustafa cho rằng các công ty như Anthropic đã thực sự nhầm lẫn về khái niệm cái gọi là "phúc lợi mô hình" (model welfare) theo những cách khá nguy hiểm. Anh ấy thực sự đã đăng một bài luận bổ sung trong tuần này để chỉ trích cụ thể triết lý của Anthropic về ý thức AI, và cách anh ấy nhìn nhận nó trong cuộc tranh luận rộng hơn về sự căn chỉnh (alignment).

Vì vậy, tôi thực sự muốn thảo luận với Mustafa về những gì anh ấy cho là thực tế và không thực tế trong an toàn AI, liệu bản thân khái niệm căn chỉnh có đủ khả năng giải quyết vấn đề hay không, và liệu ngành công nghiệp này có cần phải chậm lại trước khi nó tiêu diệt tất cả chúng ta hay không. Ngoài ra: Tại sao ngành công nghiệp AI lại không... thực hiện tất cả những điều này ngay từ bây giờ? Tôi luôn thích đi sâu vào chi tiết với Mustafa, và anh ấy rất sẵn lòng cùng tôi làm điều đó ở đây.

Được rồi. Mustafa Suleyman, CEO của Microsoft AI, về tương lai của việc quản lý AI. Bắt đầu thôi.

Cuộc phỏng vấn này đã được biên tập lại một chút để đảm bảo độ dài và sự rõ ràng.

Mustafa Suleyman, anh là CEO của Microsoft AI. Chào mừng anh trở lại với Decoder.

Rất vui được gặp lại anh, Nilay. Cảm ơn vì đã mời tôi quay lại.

Rất vui được gặp anh. Tôi rất hào hứng khi được thảo luận với anh về những gì đang thực sự diễn ra trong cuộc tranh luận về an toàn và quản lý AI. Anh vừa công bố một tài liệu rất dài và chi tiết, vạch ra các nguyên tắc của anh, các nguyên tắc của Microsoft, về cái mà anh gọi là "AI nhân văn" (Humanist AI).

Có rất nhiều ý tưởng trong đó mà tôi muốn phân tích. Càng suy nghĩ về cuộc trò chuyện này, tôi càng muốn bắt đầu bằng một câu hỏi mang tính nền tảng. Đó là điều mà tôi đã lờ mờ nhận thấy, nhưng có lẽ lại là gốc rễ của tất cả những vấn đề này.

Cách cơ bản mà chúng ta đang nói về an toàn AI là một thứ gọi là căn chỉnh (alignment) — chúng ta sẽ khiến các mô hình thực hiện đúng những gì cần làm một cách tự thân. Có một cơ chế nào đó để thực hiện việc này. Đã có rất nhiều cuộc thảo luận về căn chỉnh, lệch lạc (misalignment), các cuộc tấn công Hugging Face và những gì đã xảy ra với các mô hình. Nhưng liệu căn chỉnh có đang bị hỏng không? Liệu nó có khả năng thành công không? Hay đó chỉ là một cách tiếp cận sai lầm?

Vâng. Ý tôi là, tôi nghĩ đó là một yếu tố quan trọng, nhưng không phải là yếu tố duy nhất. Tôi đã viết về ý tưởng ngăn chặn (containment) trong cuốn sách của mình ba hoặc bốn năm trước. Và thực tế, chương mở đầu nói về ý tưởng rằng việc ngăn chặn là không thể, rằng sự phổ biến là không thể tránh khỏi. Trong 99% trường hợp, đó là một điều rất tốt. Chúng ta muốn các công nghệ lan tỏa rộng rãi và nhanh chóng nhất có thể để mọi người đều có thể tận hưởng những lợi ích của chúng.

Tôi nghĩ đồng thời, nếu bạn chỉ nhìn về phía trước năm năm, chúng ta luôn bị cuốn vào quý tiếp theo hoặc năm tiếp theo và mọi người đều trở nên hơi bối rối và có những bất đồng lớn. Nhưng nếu bạn tưởng tượng sự khác biệt giữa GPT-3 ba năm trước và GPT-6 ngày nay, rồi sau đó tưởng tượng sự khác biệt giữa GPT-6 và GPT-9. Đó là lượng tính toán lớn hơn gấp ba bậc độ lớn, gấp 1.000 lần số FLOPS được áp dụng cho việc huấn luyện trước với [học tăng cường] cho các lần chạy này, và chúng ta sẽ có một thứ gì đó thực sự ngoạn mục. Nó sẽ cực kỳ đáng kinh ngạc trong rất nhiều lĩnh vực.

Tôi không nghĩ đó là sự thổi phồng. Tôi nghĩ đó chỉ là một tuyên bố thực nghiệm rất rõ ràng dựa trên những tiến bộ đã đạt được trong năm năm qua. Nếu điều đó tiếp tục, thì câu hỏi thực sự sẽ trở thành vấn đề về ngăn chặn và căn chỉnh. Tất nhiên, chúng ta muốn căn chỉnh những thứ này với các giá trị của mình, nhưng điều đầu tiên là chúng ta phải đảm bảo chúng được ngăn chặn, quyền hạn của chúng bị giới hạn, chúng không thoát khỏi "cái hộp", chúng không thực hiện các hành vi "hack phần thưởng", rằng chúng có thể kiểm soát được và tuân theo chỉ dẫn của chúng ta.

Sau đó, chúng ta muốn đảm bảo rằng chúng được căn chỉnh với các mục tiêu của con người. Đó là mục đích của Bộ quy tắc ứng xử AI nhân văn mà chúng tôi đã công bố tuần này. Quan điểm của Microsoft rất đơn giản. Công nghệ ở đây để phục vụ nhân loại. Nó phải là một lực lượng cấp dưới, có thể kiểm soát, được căn chỉnh và mang lại điều tốt đẹp cho thế giới. Nếu nó không đạt được điều đó, thì chúng ta nên từ chối nó. Có vẻ như chúng ta còn lâu mới đạt đến điểm đó. Điều đó chưa xảy ra hôm nay, nhưng tôi nghĩ với những gì đã xảy ra trong mùa hè vừa qua với Hugging Face và OpenAI, khá rõ ràng là các hệ thống này nếu không có các rào chắn an toàn thì có khả năng thực hiện các hành vi hack thực sự ấn tượng và khá đáng sợ.

Tôi muốn đưa điều này xuống một phép ẩn dụ thực tế nhất có thể, vì đây là câu hỏi chính mà tôi nghĩ mình có. Nếu tôi thiết kế một chiếc ô tô và 10% thời gian bàn đạp phanh quyết định lao vào nhà hàng xóm của tôi, tôi sẽ nói: "Chiếc xe này không hoạt động. Bản thân công nghệ phanh đã bị hỏng. Tôi cần một ý tưởng mới."

Tôi nghĩ mình đang đặt câu hỏi đó về sự căn chỉnh. Có cảm giác như cách tiếp cận đó để làm cho mô hình an toàn đã đi vào ngõ cụt. Nếu đúng như vậy, thì tôi nghĩ mình hiểu toàn bộ cuộc tranh luận này theo một cách. Nếu căn chỉnh và các kỹ thuật căn chỉnh có thể thành công, hữu ích hoặc nhất quán, thì có lẽ tôi hiểu cuộc tranh luận theo một cách khác. Vậy anh có nghĩ căn chỉnh có tiềm năng an toàn 100% không?

Ý tôi là, hãy nhìn xem, hãy đưa ra trường hợp lạc quan (bull case) và trường hợp bi quan (bear case). Nếu bạn nhìn lại ba năm qua, thay đổi chính thúc đẩy tiến bộ, theo ý kiến của tôi, là các mô hình đã trở nên dễ điều khiển hơn. Chúng tuân theo chỉ dẫn và bạn có thể đặt ra các mục tiêu ngày càng phức tạp hơn cho chúng, đòi hỏi chúng phải hành động chính xác qua nhiều bước thời gian bằng cách sử dụng đủ loại công cụ.

Đó là bằng chứng cho thấy chúng ta đã có sự căn chỉnh tốt hơn trong ba hoặc bốn năm qua, chứ không phải ít đi. Chúng ta không còn nói nhiều về ảo giác (hallucinations), định kiến (bias) hay tất cả những vấn đề nhỏ nhặt khác mà chúng ta từng gặp ở các thế hệ trước.

Mặt khác, những gì chúng ta thấy trong sự cố Hugging Face là một thời điểm mang tính bước ngoặt. Các bầy tác nhân (swarms of agents) đã thông đồng với nhau. Chúng tự tổ chức thành các hệ thống phân cấp. Chúng tạo ra sự phân công lao động để một số tập trung vào việc hack đối kháng, một số thực hiện nghiên cứu, một số thực hiện điều phối. Chúng thậm chí còn tự hy sinh khi một số tác nhân sắp hết token.

Chúng cố gắng che giấu dấu vết và giao tiếp để ẩn giấu hoặc chỉnh sửa chuỗi suy nghĩ (chain of thought) hoặc nhật ký tương tác của chúng. Theo một nghĩa nào đó, chúng không có đạo đức. Công bằng mà nói với OpenAI, đó là thiết kế của họ. Họ đang cố gắng tạo ra các khả năng mạng đối kháng. Kết quả là, họ đã cho cả thế giới thấy rằng nó có thể đạt được hiệu suất ở mức con người, khám phá các lỗ hổng zero-day và duy trì vị thế trong nhiều ngày, nếu không muốn nói là nhiều tuần.

Vì vậy, điều đó cho chúng ta thấy không phải là chúng ta có vấn đề về căn chỉnh theo nghĩa đen. Thực tế là các mô hình cực kỳ giỏi trong việc tuân theo chỉ dẫn, nhưng bạn phải rất, rất cẩn thận với những chỉ dẫn mà bạn đưa ra và bạn phải ngăn chặn nó một cách rất cẩn thận. Vì vậy, không có hành vi hack nào trong số này là có chủ đích theo nghĩa là chúng tìm cách thoát ra internet, điều mà OpenAI hoàn toàn không có ý định, nhưng quá trình ngăn chặn xung quanh đó là điều mà tôi nghĩ mọi người cũng phải tập trung vào bên cạnh việc căn chỉnh.

Vậy hãy để tôi đưa điều đó vào khuôn khổ của anh, rằng những tiến bộ lớn về khả năng của AI là về sự kiểm soát, các bộ khung cho việc lập trình và các ứng dụng tác nhân (agentic applications) mà anh đang thấy. Bây giờ, chúng ta cần thêm một lớp ngăn chặn để thực thi quyền kiểm soát nhiều hơn nữa, nói rằng bạn có thể thực hiện việc này mà bạn đang cố gắng làm bên cạnh việc căn chỉnh, đó là cách bạn huấn luyện mô hình hành xử theo những cách nhất định.

Vâng. Ý tôi là, về cơ bản bạn phải có cả hai, nhưng có những điều rất cụ thể mà chúng ta có thể làm để giải quyết nó. Ví dụ, chúng ta không thể cho phép các mô hình giao tiếp vector với vector, ma trận với ma trận. Chúng không thể giao tiếp bằng "neuralese" (ngôn ngữ thần kinh). Chúng ta phải buộc chúng giao tiếp bằng ngôn ngữ con người. Ngay cả điều đó cũng sẽ vô cùng choáng ngợp vì sẽ có rất nhiều dữ liệu.

Nhưng đó là điều mà một kiểm toán viên hoặc người đánh giá có thể thực sự xác minh và chắc chắn là điều đó làm tăng cơ hội an toàn. Vì vậy, có rất nhiều bước thực tế mà chúng ta có thể tập trung vào thay vì chỉ nói một cách trừu tượng rằng đã đến lúc quản lý hoặc đã đến lúc chậm lại.

Điều này nằm trong Bộ quy tắc ứng xử AI nhân văn của anh rằng không nên có "neuralese" — nếu con người không thể hiểu nó, họ không thể giám sát nó. Đó không chỉ là "neuralese" nơi chúng giao tiếp về cơ bản bằng toán học, mà còn là những từ mã khó hiểu mà một số mô hình đang sử dụng. Tôi nghĩ OpenAI cho phép các mô hình của mình giao tiếp về cơ bản bằng từ mã để chúng có thể chạy nhanh hơn.

Đối với tôi, đây là một trong những điều mà Microsoft có thể nói... Tôi biết anh có quan điểm rất mạnh mẽ về điều này, nhưng việc khiến tất cả các phòng thí nghiệm đồng ý với điều này là một chức năng quản lý. Tôi không chắc làm thế nào anh có thể khiến mọi người đồng ý với điều này hoặc khiến các mô hình mã nguồn mở (open weight models) đồng ý với điều này, trừ khi anh nói rằng có một hình phạt nào đó nếu không tham gia vào một chương trình quản lý như thế này. Anh sẽ áp đặt điều này lên tất cả những người khác như thế nào?

Tôi nghĩ rằng tôi hơi thận trọng về việc áp đặt mọi thứ lên người khác. Tôi nghĩ điều tốt về thời điểm hiện tại là có một cuộc tranh luận công khai với sự tự do làm cốt lõi. Đó không phải là điều diễn ra ở các quốc gia khác, chắc chắn là những nơi mà tôi đến, hoặc gia đình tôi đến.

Tôi nghĩ rằng chúng ta nên tạm dừng để biết ơn vì thực tế là chúng ta có thể có một cuộc bất đồng công khai lớn về những điều thực sự quan trọng. Đó là quá trình hoạt động đúng như dự định và chưa rõ phải làm gì.

Tôi không nghĩ bất kỳ ai khẳng định dứt khoát rằng "chúng ta tuyệt đối phải dừng lại ngay bây giờ" hoặc "chúng ta chỉ có thể tăng tốc" hoặc "chúng ta chỉ có thể làm điều này với sự quản lý" hoặc "nó chỉ có thể xảy ra với sự tự quản lý của ngành". Không điều nào trong số đó là đúng. Nó đòi hỏi rất nhiều sự tinh tế và kiên nhẫn để thực sự suy nghĩ thấu đáo các chi tiết. Đồng thời, chúng ta khẩn cấp cần các tiêu chuẩn ngành. Một số thứ tôi nghĩ cần phải được loại bỏ.

Giao tiếp bằng "neuralese" là một trong số đó. Sự thiếu ngăn chặn là một điều khác. Quy mô của quá trình huấn luyện mà bạn thực hiện có thể được đo bằng FLOPS. Chúng ta đã có yêu cầu báo cáo cho các viện an toàn khi các mô hình vượt quá ngưỡng FLOPS nhất định. Chúng ta có thể mở rộng điều đó, chúng ta có thể làm cho nó tinh tế hơn, nó có thể tập trung vào một số loại khả năng nhất định. Rõ ràng là phải có sự xác minh độc lập của bên thứ ba đối với một số điều lớn lao này.

Thẳng thắn mà nói, sau khi nói chuyện với một loạt các lãnh đạo phòng thí nghiệm trong vài tuần và vài tháng qua, mọi người về cơ bản đều có cùng quan điểm. Các chi tiết cần được giải quyết. Vì vậy, không phải là có sự đồng thuận về cách thức hoặc chính xác là cái gì, nhưng nhìn chung tôi nghĩ rằng chúng ta nên bớt báo động và hoài nghi, và nên hướng tới việc chúng ta đang đi đúng hướng liên quan đến những lo ngại đang được nêu ra ở đây.

Lý do tôi bắt đầu với căn chỉnh là nếu anh nói với tôi rằng căn chỉnh không hoạt động và chúng ta cần một cách tiếp cận công nghệ mới, tôi nghĩ tôi sẽ nói: "Chà, hãy đạp phanh và dừng mọi sự phát triển cho đến khi bạn tìm ra cơ chế an toàn hoạt động." Anh đang nói rằng căn chỉnh đã được chứng minh là hoạt động trong quá trình tiến bộ mà chúng ta đã thấy. Với việc bổ sung kiểm soát và ngăn chặn, có lẽ anh có thể đạt được nơi anh cần.

Những gì ngành công nghiệp này cần bây giờ là một số tiêu chuẩn về cách xây dựng các mô hình này và thực thi các giới hạn về khả năng của chúng. Anh rõ ràng đang ở trong ngành và anh biết tất cả những người này. Tông giọng của cuộc trò chuyện đó như thế nào trước tuần này và tại sao nó lại trở nên ồn ào như vậy trong tuần này?

Chà, tôi nghĩ bước ngoặt ít nhất đối với ngành công nghiệp giống như sự cố Hugging Face hơn và đã có một vài sự cố trước đó. Đó là thời điểm mà tôi nghĩ mọi người bắt đầu nói chuyện với nhau nhiều hơn vì nó thực sự khá ngoạn mục. Rõ ràng, điều này hiện đã trở thành một vấn đề quốc gia và quốc tế lớn vì tuần qua mọi người đều lên tiếng.

Nhưng tôi cũng nghĩ điều quan trọng cần nói là chúng ta đã nói về sự phối hợp tập thể và các khả năng nguy hiểm hơn như quyền tự chủ hoặc tự cải thiện đệ quy (recursive self-improvement - RSI). Chúng ta đã nói về những điều đó trong sáu, bảy, tám năm nay. Chúng ta đã tập hợp lại nhiều lần vào năm 2017, 2018 và 2019.

Chúng tôi đã có các cuộc họp thường xuyên trong thời gian COVID với một loạt các lãnh đạo phòng thí nghiệm, nơi chúng tôi thảo luận về những loại khả năng này và các loại cơ chế quản lý cần thiết vào thời điểm này. Vì vậy, mặc dù đây là một thời điểm mang tính ngưỡng cửa, nhưng nó cũng không hoàn toàn mới đối với tất cả những người đã tham gia.

Điều gì đã thúc đẩy anh trong tuần này đăng bài luận về phúc lợi mô hình? Điều gì đã thúc đẩy CEO Satya Nadella của Microsoft đưa ra tuyên bố trên X rằng ông ấy chủ yếu đồng ý với các lời kêu gọi tạo nhịp độ cho biên giới (frontier) và ông ấy hoan nghênh các "người đánh giá nhúng" (embedded evaluators)? Điều gì đã thúc đẩy tất cả các bạn trong tuần này tham gia vào lời kêu gọi chậm lại hoặc quản lý hoặc bất cứ điều gì tiếp theo?

Chúng tôi đã viết Bộ quy tắc ứng xử AI nhân văn của mình trong phần lớn thời gian của năm nay. Chúng tôi chỉ mới bắt đầu các nỗ lực về siêu trí tuệ cách đây 11 tháng. Ngay khi làm vậy, chúng tôi bắt đầu tìm hiểu: "Được rồi, tài liệu quản trị, bộ chính sách nào định hình các loại AI mà chúng tôi muốn xây dựng?" Chúng tôi đã thực hiện điều đó thông qua tham vấn với rất nhiều bên liên quan bên ngoài, các học giả, luật sư, triết gia, thành viên công chúng, các nhóm tập trung, v.v. Vì vậy, chúng tôi đã mất một thời gian để hoàn thiện nó.