Anthropic bị cáo buộc xây dựng hệ thống giám sát dự báo nhắm vào các nhà hoạt động chống AI

Các tin tuyển dụng và các cuộc phỏng vấn với những quan chức an ninh cấp cao tại Anthropic cho thấy phòng thí nghiệm AI tiên phong này đang xây dựng một hệ thống giám sát quy mô lớn để theo dõi các nhà hoạt động phản đối sự phát triển nhanh chóng của trí tuệ nhân tạo.

Ngoài việc giám sát các nhà hoạt động ở gần các giám đốc điều hành của Anthropic và theo dõi các cuộc biểu tình gần các cơ sở vật chất của công ty, hãng này còn đang triển khai phương pháp "tiền tội phạm" (pre-crime), cố gắng dự đoán các sự cố trước khi chúng xảy ra. Trong một số trường hợp, điều đó cũng đồng nghĩa với việc báo cáo các nghi phạm cho cảnh sát trước khi tội phạm diễn ra. Anthropic đã không phản hồi yêu cầu bình luận từ Prospect.

Các kế hoạch giám sát những người bất đồng chính kiến của Anthropic trái ngược với nỗ lực của công ty trong việc tự xây dựng hình ảnh như một giải pháp thay thế có trách nhiệm so với OpenAI. Vào đầu năm nay, Bộ Quốc phòng và Anthropic đã có một cuộc tranh cãi gay gắt về việc Anthropic từ chối cho phép quân đội sử dụng các công cụ của mình cho mục đích giám sát trong nước quy mô lớn và vũ khí tự hành. Căng thẳng đó dường như đã dịu bớt khi Anthropic tuyển dụng cho các vị trí "kinh doanh an ninh quốc gia", tìm cách khởi động lại các hợp đồng quân sự. Việc tăng cường giám sát các mối đe dọa từ các đối thủ trong nước phù hợp với sự tập trung mới vào an ninh quốc gia.

Xem thêm từ Daniel Boguslaw

Một phần trong kiến trúc giám sát của Anthropic đã được tiết lộ trong một cuộc phỏng vấn podcast năm ngoái giữa Keon Ellison, Giám đốc Trung tâm Điều hành An ninh Toàn cầu của Anthropic, Zach Melvin, Giám đốc Điều hành An ninh, và James Neufeld, CEO của Samdesk, một công ty mà Anthropic ký hợp đồng để phát hiện rủi ro.

Trong một cuộc trò chuyện sâu rộng về giám sát và phân tích mối đe dọa, cuộc phỏng vấn cũng đề cập đến việc theo dõi các nhà hoạt động. "Năm ngoái, chúng tôi có một giám đốc điều hành đi công tác đến một thành phố lớn khi chúng tôi nhận được thông tin tình báo thông qua Samdesk về một cuộc biểu tình đã được lên kế hoạch," Ellison nói. Cuộc biểu tình ban đầu đã được đẩy lên sớm hơn do các vấn đề về giấy phép. "Samdesk đã cho chúng tôi biết trước khoảng 60 phút rằng những người tổ chức biểu tình đã thay đổi thời gian," Ellison giải thích. "Một giờ đó là rất quan trọng. Nếu không có nó, các giám đốc điều hành của chúng tôi đã rời khỏi cuộc họp và họ sẽ đâm sầm vào tâm điểm của sự gián đoạn."

Ellison cho biết Anthropic đã sử dụng dữ liệu này để vạch ra một lộ trình thay thế cho vị giám đốc điều hành và đưa họ đến lối vào dịch vụ tại khách sạn. "Điều lẽ ra có thể là một tình huống căng thẳng cao độ," ông nói, "đã thực sự được giảm thiểu thông qua việc phát hiện sớm nhờ Samdesk và việc họ cung cấp thông tin đó cho chúng tôi."

Anthropic đã bắt đầu thực hiện các báo cáo định kỳ cho các sở cảnh sát trên khắp cả nước về các mối đe dọa, và nói với The Wall Street Journal vào tháng 7 rằng: "Chúng tôi theo dõi các hành vi đáng lo ngại theo thời gian thông qua quy trình xác định đối tượng quan tâm, cho phép chúng tôi nắm bắt sớm các mô hình leo thang." Theo Journal, "một số cá nhân liên quan đến các sự cố được báo cáo cho cảnh sát đã bị bộ phận an ninh của Anthropic theo dõi từ trước."

Tháng trước, The San Francisco Standard đưa tin rằng Anthropic đã báo cáo một người đàn ông với cảnh sát San Francisco vì đã nói với Claude rằng anh ta đã mua một khẩu súng trường bán tự động AR-15 và đã đưa CEO Dario Amodei "vào tầm ngắm". Khi Standard liên lạc với người đàn ông này, anh ta nói với tờ báo rằng mình "chỉ đang đùa giỡn thôi".

Nhưng trong khi Anthropic nhanh chóng gọi cảnh sát đối với một người dùng Claude đang bức xúc, Standard cũng đưa tin một chi tiết quan trọng: Anthropic từ chối cho cảnh sát xem các tin nhắn thực tế, viện dẫn chính sách nội bộ của công ty. Tóm lại, Anthropic đã báo cáo một người dùng vì phát ngôn trên nền tảng, sau đó lại từ chối cung cấp bằng chứng về hành vi sai trái thực tế cho cảnh sát.

Kiểu cảnh sát "tiền tội phạm" này, được khuyến khích mà không cần quy trình tố tụng hợp pháp, được quản lý chương trình an ninh của Anthropic nhắc đến như một mục tiêu rõ ràng trong podcast mà Prospect đã xem xét. "Mục tiêu là chuyển đổi các hoạt động từ thông tin phản ứng sang thu thập các hoạt động tương tác và quản lý mối đe dọa mang tính chủ động, dự đoán và phòng ngừa," ông nói, đồng thời bổ sung: "Đó là kiểu trưởng thành trong vận hành hợp lý để bảo vệ các mục tiêu giá trị cao trong bất kỳ ngành nào."

Nỗ lực của Anthropic nhằm xây dựng một bộ máy an ninh dự đoán không chỉ dừng lại ở cấp điều hành mà còn mở rộng đến đội ngũ An toàn, Tình báo và An ninh Toàn cầu (GSIS), theo một tin tuyển dụng từ tháng trước mô tả chi tiết việc Anthropic tìm kiếm một chuyên gia tình báo doanh nghiệp, người "sẽ điều tra các mối đe dọa, tác nhân và sự kiện cụ thể, đưa ra các đánh giá hoàn chỉnh và giúp nhân viên của Anthropic đi trước một bước trong bối cảnh mối đe dọa đang phát triển nhanh chóng và duy trì vị thế có thể phòng thủ."

Một phần của vai trò đó, với mức lương từ 180.000 đến 230.000 USD, sẽ là "xác định, đánh giá, theo dõi và điều tra các mối đe dọa toàn cầu bao gồm bất ổn địa chính trị, khủng bố, tội phạm, hoạt động chính trị, sự nhắm mục tiêu của các quốc gia vào lĩnh vực AI và các xu hướng an ninh mới nổi, bao gồm nghiên cứu chuyên sâu và thu thập OSINT về các mối đe dọa, tác nhân và sự kiện cụ thể" (nhấn mạnh thêm).

Việc mở rộng thu thập tình báo của Anthropic ra quy mô quốc gia và thậm chí toàn cầu đi cùng với những nỗ lực gần đây nhằm tăng cường dán nhãn AI và cơ sở hạ tầng cung cấp năng lượng cho nó, bao gồm các trung tâm dữ liệu và nguồn cung cấp điện. Việc chỉ định là cơ sở hạ tầng trọng yếu sẽ đặt trí tuệ nhân tạo vào vị thế tương đương với nước, điện và băng thông rộng. Và thực tế, những người ủng hộ AI như Americans for Responsible Innovation (ARI) đã thúc giục chính quyền Trump thực hiện thay đổi này. Theo cách nói của ARI, AI "rất quan trọng đối với Hoa Kỳ đến mức việc mất khả năng hoạt động hoặc phá hủy các hệ thống và tài sản như vậy sẽ gây ra tác động suy yếu đến an ninh, an ninh kinh tế quốc gia, sức khỏe hoặc an toàn công cộng quốc gia, hoặc bất kỳ sự kết hợp nào của các vấn đề đó."

Việc đưa các phòng thí nghiệm tiên phong vào lớp vỏ bọc cứng rắn của an ninh quốc gia sẽ không chỉ mang lại cho Anthropic, OpenAI và Google quyền truy cập nhiều hơn vào các sản phẩm tình báo do các cơ quan thực thi pháp luật và tình báo liên bang tạo ra; nó còn khuyến khích các công ty này định hình cách các cơ quan liên bang nhìn nhận các mối đe dọa đối với lợi nhuận của họ, giờ đây đã được chuyển đổi thành "cơ sở hạ tầng trọng yếu".

Không khó để hình dung việc tham gia dân sự của cùng một liên minh lưỡng đảng đang phản đối các trung tâm dữ liệu có thể chuyển trọng tâm sang AI, chỉ để ngay lập tức bị gắn mác là những kẻ cực đoan hoặc tệ hơn là những kẻ khủng bố. Câu trả lời của Anthropic cho vấn đề này là làm việc chăm chỉ hơn nữa để tạo ra trí tuệ nhân tạo có thể cung cấp các dịch vụ không thể bị công chúng gạt bỏ.

"Tôi đồng ý rằng công chúng có cái nhìn tiêu cực về AI (và đây là một vấn đề lớn), nhưng tôi không nghĩ nguyên nhân chính là do tôi hay bất kỳ nhà lãnh đạo AI nào khác cảnh báo về những rủi ro của AI," CEO Anthropic Dario Amodei viết trên Twitter tháng trước. "Tôi nghĩ đó về cơ bản là một cuộc khủng hoảng niềm tin... Tôi nghĩ rằng những người bình thường không tin tưởng các công ty, chính phủ hoặc ngành công nghệ và luôn nghi ngờ rằng chúng tôi đang âm mưu một cách mới nào đó để lừa gạt họ."

Khi Anthropic tăng cường nỗ lực giám sát sự bất đồng chính kiến bằng các đội ngũ tình báo nội bộ và theo dõi biểu tình thời gian thực được hỗ trợ bởi AI, họ sẽ phải đối mặt với sự tuyệt vọng kinh tế ngày càng tăng đang bủa vây con người bên ngoài các tòa tháp ở Bay Area của họ. Tuần trước, các nhân viên bảo vệ tuần tra tại các khuôn viên của OpenAI và Anthropic thông báo rằng họ đã phê duyệt một cuộc đình công do các cuộc đàm phán lương bị đình trệ. Đáp lại, Anthropic đã gửi một email toàn công ty nói với nhân viên rằng tốt nhất là họ nên làm việc tại nhà.

"Ai có thể sống sót với 22 đô la một giờ ở San Francisco?" David Huerta, chủ tịch của SEIU-USWW, công đoàn đại diện cho các nhân viên bảo vệ ở Bay Area, cho biết tại một cuộc mít tinh tuần trước. Xung quanh ông, các nhân viên bảo vệ hô vang: "Thật xấu hổ."