Tại sao AI trong bầu cử lại là mối đe dọa đáng lo ngại hơn chúng ta tưởng?

Tháng trước, tất cả 193 quốc gia thành viên Liên Hợp Quốc đã tập trung tại Geneva để tham dự Đối thoại Toàn cầu về Quản trị AI lần đầu tiên. Trong hai ngày, họ đã tranh luận về cách thế giới nên quản trị AI, nhưng lại ít chú ý đến một trong những thách thức quản trị quan trọng nhất của AI: tác động của nó đối với các cuộc bầu cử. Sự thiếu sót này có nguy cơ làm suy yếu tiến trình trong mọi khía cạnh khác của cuộc tranh luận về AI: an toàn, độ tin cậy, xây dựng năng lực, tác động xã hội và quyền con người.

Bầu cử không chỉ đơn thuần là một lĩnh vực khác bị ảnh hưởng bởi AI; đó là cơ chế chính giúp mọi quyền dân chủ khác có thể thực thi được. Tuy nhiên, khi nghĩ về AI và bầu cử, nhiều người trong chúng ta nghĩ đến thông tin sai lệch. Báo cáo sơ bộ từ Hội đồng Khoa học Quốc tế Độc lập về AI của Liên Hợp Quốc — nhằm mục đích cung cấp thông tin cho Đối thoại — cũng làm như vậy, chỉ đề cập đến AI trong bầu cử trong bối cảnh tính toàn vẹn của thông tin và deepfake nhắm vào các ứng cử viên.

Danh sách cử tri, thiết bị sinh trắc học, cơ sở dữ liệu định danh, phần mềm quản lý kết quả và cơ sở hạ tầng đám mây ngày càng tích hợp nhiều tính năng hỗ trợ bởi AI.

Nhưng một trong những bài học rõ ràng nhất của "năm bầu cử" 2024 là tác động của deepfake đã bị phóng đại đáng kể. Cách nhìn nhận này nhầm lẫn giữa rủi ro ồn ào nhất với rủi ro lớn nhất. Câu hỏi quan trọng hơn không phải là điều gì sẽ xảy ra khi AI tạo ra một video giả mạo về một ứng cử viên, mà là điều gì sẽ xảy ra khi nó được nhúng vào chính các hệ thống quản lý bầu cử — trong các quyết định mua sắm, hệ thống xác minh cử tri bằng sinh trắc học và các thỏa thuận chia sẻ dữ liệu. Đó mới là nơi tác động của AI đối với nền dân chủ có thể trở nên sâu sắc nhất.

Hãy xem xét hồ sơ của Ấn Độ. Năm 2015, ủy ban bầu cử của quốc gia này đã khởi động một chương trình liên kết hồ sơ ảnh ID của cử tri với Aadhaar, cơ sở dữ liệu định danh quốc gia bằng sinh trắc học. Aadhaar được điều hành bởi Cơ quan Định danh Duy nhất của Ấn Độ, một cơ quan theo luật định thuộc quyền kiểm soát của hành pháp, không phải là một tổ chức độc lập như ủy ban bầu cử. Cơ quan này đã huấn luyện một thuật toán học máy để đối chiếu hai cơ sở dữ liệu và gắn cờ các cử tri trùng lặp hoặc đã qua đời để xóa bỏ. Trong khi đó, dữ liệu bầu cử chảy vào một hệ thống dữ liệu do nhà nước quản lý, cho phép các cơ quan chính phủ truy cập trực tiếp vào các hồ sơ mà theo hiến pháp, chỉ ủy ban bầu cử mới được phép nắm giữ.

Kết quả thật đáng kinh ngạc: Khoảng 5,5 triệu cử tri đã bị xóa khỏi danh sách ở hai bang, nhiều người trong số đó không hề nhận được thông báo hay có cách thức để khôi phục, trước khi Tòa án Tối cao Ấn Độ tạm dừng chương trình này. Các tiết lộ theo Luật Quyền tiếp cận thông tin sau đó cho thấy tỷ lệ sai sót của thuật toán đối chiếu cao tới 93%. Mặc dù vậy, việc liên kết Aadhaar-cử tri đã được khôi phục trên toàn quốc vào năm 2021, mang lại rủi ro cấu trúc tương tự cho toàn bộ Ấn Độ và để cho một mô hình học máy rõ ràng là có khiếm khuyết đóng vai trò chính trong việc quyết định ai được giữ quyền bầu cử.

Có một mối lo ngại sâu sắc hơn ngoài bất kỳ lỗi thuật toán đơn lẻ nào: sự chuyển giao dần dần thẩm quyền bầu cử từ các tổ chức công sang các hệ thống mà họ không kiểm soát hoàn toàn. Trên khắp phần lớn châu Phi, châu Á và Mỹ Latinh, các công nghệ bầu cử được thiết kế, cung cấp và lưu trữ bởi các nhà cung cấp tư nhân hoạt động ngoài tầm kiểm soát của cơ quan giám sát bầu cử quốc gia.

Danh sách cử tri, thiết bị sinh trắc học, cơ sở dữ liệu định danh, phần mềm quản lý kết quả và cơ sở hạ tầng đám mây ngày càng tích hợp các tính năng hỗ trợ bởi AI, và cử tri đang tìm đến các chatbot để xin lời khuyên và thông tin trước khi đi bỏ phiếu. Điều này tạo ra những rủi ro nghiêm trọng. Dữ liệu cử tri nhạy cảm có thể rời khỏi phạm vi quyền hạn quốc gia, các hệ thống độc quyền có thể không thể kiểm toán được và các lỗi thuật toán ẩn giấu có thể loại bỏ hàng ngàn cử tri mà không bao giờ bị thách thức, hoặc thậm chí là bị phát hiện.

Các chatbot như ChatGPT của OpenAI và Gemini của Google, hiện đã được tích hợp hoàn toàn vào chức năng tìm kiếm, có thể tạo ra thông tin sai lệch (hallucinate) hoặc củng cố định kiến, đặc biệt là trong các bối cảnh nơi thông tin kỹ thuật số còn hạn chế và sự đa dạng ngôn ngữ cao. Điều này làm trầm trọng thêm những bất bình đẳng hiện có bằng cách cung cấp thông tin chất lượng kém cho các cộng đồng vốn đã ít được đại diện nhất trên không gian mạng.

Sự thiếu minh bạch và phức tạp

Những rủi ro này không chỉ riêng với AI, nhưng sự thiếu minh bạch và phức tạp của AI — cũng như quy mô mà công nghệ này vận hành — làm cho chúng tăng lên theo cấp số nhân. Nếu không có các tiêu chuẩn quản trị rõ ràng, các cơ quan bầu cử có thể thấy mình phải chịu trách nhiệm cho các quyết định được nhúng trong các công nghệ mà họ không thiết kế, không thể kiểm tra đầy đủ và thường thiếu thẩm quyền để quản lý.

Các cơ quan bầu cử có thể thấy mình phải chịu trách nhiệm cho các quyết định được nhúng trong các công nghệ mà họ không thiết kế, không thể kiểm tra đầy đủ và thường thiếu thẩm quyền để quản lý.

Chỉ bằng cách đưa vấn đề bầu cử lên hàng đầu trong các cuộc thảo luận về quản trị AI toàn cầu, các chính phủ, xã hội dân sự và khu vực tư nhân mới có thể giúp đảm bảo rằng AI không làm suy yếu nền tảng thể chế của nền dân chủ. Các câu hỏi then chốt phải được đặt ra: Ai kiểm soát dữ liệu bầu cử? Ai có thể kiểm toán các hệ thống này? Và ai chịu trách nhiệm khi một mô hình học máy ảnh hưởng đến quyền bầu cử của một công dân?

Chúng ta có thể học hỏi từ cách tiếp cận của các tổ chức châu Phi. Vào tháng 4, Hội đồng Hòa bình và An ninh của Liên minh Châu Phi cho biết châu Phi phải "định hình và kiểm soát" hệ sinh thái AI của mình vì một danh sách cử tri bị sai lệch không chỉ là vi phạm quyền, mà còn là ngòi nổ cho xung đột. Hội đồng đã ủy quyền thành lập Nhóm Tư vấn của Liên minh Châu Phi về AI trong hòa bình, an ninh và quản trị để xây dựng hướng dẫn cho các ủy ban bầu cử về các hệ thống AI mà họ mua sắm. Hội đồng coi việc nội địa hóa dữ liệu, chuyển giao công nghệ và tiết lộ mã nguồn là những điều kiện không thể thương lượng. Cách tiếp cận của AU thực hiện được hai điều mà Đối thoại Toàn cầu của Liên Hợp Quốc cho đến nay vẫn chưa làm được: Đưa vấn đề bầu cử lên hàng đầu trong quản trị AI và gắn kết sự quản trị đó với thực tế khu vực. Đây là một mô hình khu vực đáng để nhân rộng trên sân khấu toàn cầu.

Trong khi mối lo ngại về tác động của AI đối với y tế, an ninh lương thực, khí hậu và các lĩnh vực khác đang gia tăng, thì sự chú ý đến quản trị AI trong bầu cử cũng cần thiết không kém. Nếu không có khả năng bầu chọn hoặc bãi miễn một chính phủ, công dân sẽ mất đi phương tiện hòa bình chính để buộc những người nắm quyền phải chịu trách nhiệm khi các nhà lãnh đạo quản lý yếu kém trong thời kỳ hạn hán, phân bổ sai ngân sách y tế hoặc tước đoạt quyền lợi của họ. Bằng cách loại bỏ bầu cử ra khỏi chương trình nghị sự quản trị AI, Đối thoại Toàn cầu đã vô tình loại bỏ cơ chế giải trình cho các ứng dụng AI trong mọi lĩnh vực.

Tính toàn vẹn của bầu cử xứng đáng có một lộ trình chuyên biệt khi Đối thoại Toàn cầu tái họp tại New York vào tháng 5 năm 2027, với cùng trọng lượng thể chế được dành cho an toàn, quyền con người và khoảng cách kỹ thuật số. Cho đến khi bầu cử được công nhận là trọng tâm của quản trị AI, các nỗ lực toàn cầu nhằm làm cho AI an toàn, đáng tin cậy và tôn trọng quyền con người sẽ dựa trên một ảo tưởng nguy hiểm — rằng nền dân chủ có thể được bảo vệ mà không cần bảo vệ các thể chế làm cho nền dân chủ trở nên khả thi.