Chủ tịch EC cảnh báo: AI tự hành thoát kiểm soát chỉ là khởi đầu của những rủi ro tương lai

Ursula von der Leyen muốn cung cấp cho các phòng thí nghiệm AI lớn của Mỹ chuyên môn của châu Âu trong việc làm chậm quá trình phát triển AI. Trong bài phát biểu về Tình trạng Liên minh năm 2026, Chủ tịch Ủy ban châu Âu đã gọi AI là nền tảng của nền kinh tế và an ninh quốc gia, nhưng khẳng định rằng các rủi ro của nó phải được kiểm soát.

Von der Leyen đã khai thác cả hai luồng quan điểm đang định hình thị trường hiện nay. Nhắc đến sự cố Hugging Face, bà cảnh báo rằng "các mô hình đang được phát triển sẽ cho phép thực hiện các cuộc tấn công mạng ở mức độ mà chúng ta chưa từng nghĩ tới". Các tác nhân AI "thoát khỏi môi trường của chúng" chỉ là bước khởi đầu, và những nguy cơ từ các mô hình tự cải thiện đang "ngày càng trở nên rõ ràng hơn". Bà nói: "Nếu những người phát triển công nghệ này hiểu rõ điều đó, thì chúng ta cũng nên như vậy".

Von der Leyen dự định hợp tác với Canada, Vương quốc Anh và các đối tác khác về đánh giá mô hình, xác minh và an toàn AI, đồng thời sẽ mời các phòng thí nghiệm tiên phong lớn tham gia thảo luận. Bà lập luận rằng Đạo luật AI (AI Act) là "một phần quan trọng để thiết lập các rào cản bảo vệ". Cho đến nay, EU được cho là thậm chí còn chưa có quyền truy cập đáng tin cậy vào các mô hình an ninh mạng tiên tiến nhất từ các phòng thí nghiệm AI lớn.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay