Vua Charles III chủ trì hội nghị thượng đỉnh AI, kêu gọi kiểm soát công nghệ trước khi quá muộn

Hôm thứ Năm, Vua Charles đã chủ trì một hội nghị thượng đỉnh kín với sự tham gia của những tên tuổi nổi bật nhất trong lĩnh vực AI và chính phủ Vương quốc Anh, bao gồm Jensen Huang của Nvidia, các nhà lãnh đạo từ OpenAI và Anthropic, tân Bộ trưởng AI của Vương quốc Anh Kanishka Narayan, và thậm chí cả người đứng đầu cơ quan tình báo đối ngoại của Anh. Paolo Benanti, cố vấn về AI cho Giáo hoàng, cũng có mặt tại sự kiện này.

Những phát biểu của nhà vua tại hội nghị — được tổ chức tại Dumfries House, một điền trang từ thế kỷ 18 ở Ayrshire thuộc sở hữu của quỹ từ thiện của Vua Charles — rất đáng chú ý vì vì lý do hiến pháp, hoàng gia thường rất thận trọng trong việc can thiệp quá sâu vào các vấn đề chính trị — và AI hiện là một trong những chủ đề gây tranh cãi nhất trên thế giới. Nhà vua đã thúc giục các nhà lãnh đạo có mặt tại đây tìm cách kiểm soát AI “trước khi quá muộn”, đồng thời nói thêm rằng sự phát triển nhanh chóng của công nghệ này — cùng với “bản chất” của nó — là “vừa hấp dẫn vừa vô cùng đáng lo ngại”.

“AI đã và đang cho thấy khả năng to lớn trong việc cải thiện và cứu sống con người,” ông nói, dẫn chứng ví dụ về y học và khoa học. “Tuy nhiên, những người tạo ra các công nghệ này hiện đang ngày càng cảnh báo rằng AI có nguy cơ phát triển những năng lực đen tối hơn, thậm chí có thể tước đi mạng sống.” Nhận định này được đưa ra chỉ vài ngày sau khi một nhà nghiên cứu của Anthropic từ chức, viết trên mạng rằng các công ty AI đang “chạy đua để chế tạo những cỗ máy thông minh hơn bất kỳ con người nào” và nhân loại “có thể sẽ không sống sót nổi điều này”.

Nhà vua tiếp tục nói rằng việc xem xét kỹ lưỡng các “mối nguy hiểm hiện hữu” là vô cùng cấp bách, trong trường hợp công nghệ này rơi vào tay kẻ xấu và bị sử dụng theo những “cách thức có khả năng gây thảm họa”.

“Chắc chắn là chúng ta cần những phương thức kiểm soát đầy đủ trước khi mọi thứ trở nên quá muộn, phải không?” ông nói. Khi kết thúc bài phát biểu, Vua Charles thúc giục các nhà lãnh đạo tìm cách khai thác mặt tốt của AI, đồng thời xây dựng sự hợp tác và đồng thuận quốc tế để đạt được kết quả đó. (Nhận định này được đưa ra sau khi Anthropic giới hạn quyền truy cập vào các mô hình Fable và Mythos chỉ dành cho khách hàng tại Hoa Kỳ, gây chấn động giới công nghệ châu Âu và khiến nhiều người phải suy ngẫm về khái niệm chủ quyền AI).

“Nhiệm vụ trước mắt các vị không chỉ là thúc đẩy công nghệ, mà là đảm bảo rằng nó vẫn phục vụ vững chắc cho nhân loại, cộng đồng và thế giới tự nhiên,” ông nói khi kết thúc bài phát biểu. “Khi chúng ta đón nhận những điều mới mẻ, chúng ta không được đánh mất những giá trị vượt thời gian.”

Các phương tiện truyền thông đưa tin rằng ông đã ở lại khoảng 20 phút, để các khách mời tự thảo luận về những vấn đề này. Đối với hội nghị thượng đỉnh của nhà vua, OpenAI đã cử CFO Sarah Friar tham dự, trong khi Anthropic cử Tino Cuéllar, người đứng đầu bộ phận đối ngoại toàn cầu. Khi được liên hệ để bình luận, Cuéllar cho biết công ty rất vinh dự khi được tham gia cuộc thảo luận và cảm ơn nhà vua vì đã “quy tụ các nhà lãnh đạo ngành và những tiếng nói từ khắp xã hội để thảo luận về vai trò của AI trong việc phục vụ lợi ích công cộng”.

Đây không phải là lần đầu tiên Vua Charles nói về những thách thức và lợi ích của AI, ông đã từng làm điều này vào năm 2023 và 2024. Tuy nhiên, hội nghị thượng đỉnh lần này đặc biệt kịp thời khi AI tiếp tục thống trị mọi ngành công nghiệp, chủ đề và hình thức đối thoại. Trong tháng này, Sam Altman của OpenAI, Elon Musk và Dario Amodei của Anthropic đã kêu gọi giảm tốc độ phát triển AI, nhưng Huang của Nvidia và Tổng thống Donald Trump đã nhanh chóng bác bỏ những lời kêu gọi đó. “Chúng ta đang dẫn trước Trung Quốc về AI,” Tổng thống nói. “Chúng ta là quốc gia tinh vi nhất thế giới, và thẳng thắn mà nói, tôi muốn giữ vững vị thế đó vì bất cứ ai thắng trong cuộc đua AI, người đó sẽ chiến thắng.”

Điều này cho thấy vấn đề đã trở nên phức tạp như thế nào khi lợi ích của các tập đoàn Big Tech, chính trị và xã hội va chạm với nhau. Trong năm qua, OpenAI và Anthropic đã hé lộ về các đợt IPO bom tấn, mặc dù gần đây OpenAI cho biết kế hoạch IPO của họ đã bị đình trệ trong năm nay do những lo ngại về an toàn AI vẫn còn tồn tại.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Dominic-Madori Davis là phóng viên cấp cao về đầu tư mạo hiểm và khởi nghiệp tại TechCrunch. Cô làm việc tại Thành phố New York.

Bạn có thể liên hệ hoặc xác minh thông tin từ Dominic bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tại số +1 646 831-7565 trên Signal.

Xem tiểu sử