Tại TechBBQ: Giới công nghệ châu Âu trăn trở về quyền kiểm soát AI

Tại TechBBQ ở Copenhagen, cuộc trò chuyện giữa các nhà đầu tư, nhà sáng lập và các nhà điều hành từ khắp châu Âu không chỉ xoay quanh việc xây dựng những gì với AI, mà là ai nên kiểm soát nó. Dù bạn đang ở đâu trong hội nghị thường niên của khu vực Bắc Âu này, từ trên sân khấu đến các buổi tiệc cocktail và tiệc tùng sau sự kiện, những cuộc thảo luận vẫn luôn quay trở lại vấn đề làm thế nào để châu Âu có thể giành quyền kiểm soát lớn hơn đối với công nghệ đang vận hành AI.

Câu hỏi về chủ quyền đó — vốn rất phù hợp với chủ đề năm nay là “Emerging from Agency” (tạm dịch: Trỗi dậy từ quyền tự quyết) — trở nên đặc biệt cấp thiết sau khi các mô hình AI Mythos và Fable của Anthropic không còn khả dụng với người dùng bên ngoài châu Âu vào đầu năm nay.

Sự việc này đã khiến nhiều người trong hệ sinh thái châu Âu phải suy nghĩ nghiêm túc về ý nghĩa của việc sở hữu các mô hình và cơ sở hạ tầng làm nền tảng cho làn sóng AI này, thay vì phải thuê lại sức mạnh đó từ Mỹ và Trung Quốc.

Một giám đốc điều hành startup chia sẻ với tôi rằng sự cố Mythos và Fable đã gây gián đoạn nghiêm trọng cho đội ngũ phần mềm của anh ấy, trong khi một người khác lại tỏ ra không mấy bận tâm. Vị giám đốc startup này thừa nhận, việc phụ thuộc vào hai cường quốc địa chính trị khác về AI có thể một ngày nào đó sẽ gây ra những cơn đau đầu dữ dội cho châu Âu, nhưng hiện tại, mọi thứ vẫn khá ổn.

“Chủ đề về quyền tự quyết (agency) của TechBBQ năm nay mang tính thời điểm đặc biệt khi cuộc trò chuyện chuyển dịch từ việc AI có thể làm gì sang việc chúng ta thực sự sẵn lòng để nó làm gì,” Ellen de Brever, một nhà đầu tư thiên thần kiêm giám đốc quan hệ đối tác tại Novo Nordisk Foundation Cellerator, chia sẻ với tôi trong hội nghị kết thúc vào ngày 27 tháng 8.

Có những phiên thảo luận về tương lai của sức khỏe phụ nữ, một hội nghị thượng đỉnh về cách các hệ sinh thái Bắc Âu và châu Phi có thể hợp tác trong đổi mới và đầu tư, cùng các cuộc đối thoại về cách thu hút thêm vốn tăng trưởng vào châu Âu. AI là chủ đề xuyên suốt trong nhiều cuộc trò chuyện, nhưng như de Brever đã chỉ ra: “các cuộc tranh luận không xoay quanh những cỗ máy thông minh hơn, mà xoay quanh sự phán đoán của con người và ai là người được nắm quyền điều khiển.”

“Kỷ nguyên của các tác nhân AI (AI agents) không thực sự là câu chuyện về việc máy móc giành được quyền tự quyết,” bà nói tiếp. “Đó là câu chuyện về việc con người quyết định từ bỏ những gì.”

Một người tham dự nói với tôi rằng một trong những phiên thảo luận thú vị nhất tại sự kiện là phiên đối thoại với chủ tịch Signal, Meredith Whittaker, do tôi điều phối, tập trung vào việc liệu quyền riêng tư và AI có thể cùng tồn tại hay không. Whittaker đã không ngần ngại bày tỏ quan điểm phản đối việc các trợ lý và tác nhân AI được tích hợp vào hệ điều hành, giống như cách ChatGPT đang làm với iMessage.

Bà cho rằng kỷ nguyên AI này đang tạo ra một “bộ máy thu thập dữ liệu” và các phòng thí nghiệm AI đang sử dụng các chiến lược tiếp thị khôn khéo để khiến mọi người quên đi “những hậu quả ngoài ý muốn” của việc thu thập quá nhiều dữ liệu.

“Vẫn còn một nhu cầu thị trường rất lớn về quyền riêng tư,” bà nói. “Và đặc biệt với những lo ngại về chủ quyền, chúng tôi sẽ có khách hàng ở đây.”

Ở một diễn biến khác, Emad Mostaque, đồng sáng lập của Stability AI và Intelligent Internet, đã tham gia một phiên thảo luận cùng tôi về việc lực lượng lao động sử dụng tác nhân AI (agentic workforce) sẽ tác động thế nào đến nền kinh tế và điều đó có ý nghĩa gì đối với chủ quyền cá nhân.

“Chủ quyền là khả năng chống lại quyền lực đang áp đặt lên bạn,” Mostaque nói. Ông đề cập đến sự tập trung quyền lực trong tay một vài phòng thí nghiệm AI và cho rằng: “Chắc chắn rằng mọi quốc gia sẽ được vận hành bởi AI” và “người kiểm soát AI sẽ kiểm soát quốc gia đó.”

Mia Negru, giám đốc vận động và gắn kết của tổ chức phi lợi nhuận Life With Artificials, đã gửi tin nhắn cho tôi sau phiên thảo luận về những suy nghĩ của cô khi lắng nghe.

“Nếu các tác nhân thông minh thực hiện công việc nhận thức và robot ngày càng thực hiện nhiều công việc chân tay, chúng ta có thể đang tiến gần đến một điều gì đó lớn lao hơn cả một cuộc cách mạng công nghệ khác,” cô viết trong tin nhắn. “Chúng ta có thể phải suy nghĩ lại về quyền sở hữu, công việc, dân chủ, sự tham gia kinh tế và cuối cùng là cả việc ai được phép tham gia vào xã hội.”

Nhưng khi các phiên thảo luận kết thúc, mọi người lại thư giãn tại các buổi tiệc happy hour và các buổi tiệc trên sân thượng, nơi những cuộc trò chuyện nhẹ nhàng hơn dần chiếm ưu thế.

Lovable, Nvidia, OpenAI, AWS Startups và HSBC đã cùng tổ chức một bữa tiệc nướng trên sân thượng, nơi tôi đã trò chuyện với các nhà sáng lập về các trung tâm công nghệ đang phát triển của Đan Mạch.

Ada Ventures của London đã tổ chức một buổi gặp mặt tại quán bar cocktail Bird, nơi tôi trò chuyện với một nhà sáng lập công nghệ y tế về sự đổi mới ngày càng tăng trong lĩnh vực sức khỏe não bộ phụ nữ. Sau đó là bữa tối dành cho các diễn giả trên một hòn đảo giữa Copenhagen, nơi báo chí quốc tế ngồi cùng nhau và xem các vũ công múa lửa. Bữa tiệc sau sự kiện tiếp tục ở tầng trên, nơi mọi người đều muốn nán lại thêm một ly cho đến khi quán bar đóng cửa.

“Trong một căn phòng đầy những cuộc trò chuyện về máy móc, những khoảnh khắc đáng nhớ nhất vẫn đến từ những điều đơn giản nhất,” de Brever nói. “Sự kết nối giữa con người với con người, gặp mặt trực tiếp, xây dựng mối quan hệ, chia sẻ ý tưởng và nhắc nhở nhau về những điều mà công nghệ không bao giờ có thể thay thế hoàn toàn.”

Khi bạn mua hàng qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.