CTO Lầu Năm Góc bác bỏ thuyết 'AI diệt vong' của kỹ sư Anthropic

Theo tin từ IT ngày 11 tháng 9, Giám đốc Công nghệ (CTO) của Bộ Quốc phòng Hoa Kỳ, Emil Michael, đã phản hồi về cảnh báo của kỹ sư Jacob Coxon từ Anthropic liên quan đến khả năng AI tiêu diệt toàn nhân loại, trong một hội nghị về công nghiệp quốc phòng diễn ra tại Washington vào ngày 10 tháng 9 vừa qua.

Michael cho biết công chúng dễ rơi vào những câu chuyện bi quan như "40% người Mỹ sẽ thất nghiệp, AI sẽ hủy diệt nhân loại". Ông cho rằng những lo ngại này cuối cùng đều bắt nguồn từ nỗi sợ hãi đối với các trung tâm dữ liệu, sự thay đổi công nghệ và việc AI mất kiểm soát.

Ông nhận định rằng những lo ngại xoay quanh việc AI mất kiểm soát và tình trạng thất nghiệp hàng loạt đang tạo thành một "vòng xoáy luẩn quẩn của thuyết tận thế", nhưng các rủi ro liên quan có thể được giảm thiểu thông qua cơ chế thị trường, sự hợp tác trong ngành và sự tham gia của chính phủ.

Vào thứ Tư tuần này, Coxon tuyên bố đã rời khỏi Anthropic và đưa ra những phát ngôn gây tranh cãi. Tính đến thời điểm IT đăng bài, bài đăng của ông đã thu hút hơn 150 triệu lượt xem.

Ông cho rằng OpenAI và Anthropic đang "lao thẳng tới trí tuệ siêu việt tự cải tiến và đánh cược mạng sống của chúng ta". Ông cảnh báo rằng trong tương lai có thể xuất hiện các hệ thống AI với năng lực siêu phàm, có khả năng xâm nhập bất kỳ hệ thống nào, thay đổi toàn bộ ngành công nghiệp chỉ sau một đêm và chiếm đoạt quyền lực cũng như tài nguyên trong thế giới thực.

Theo thông tin công khai, Michael từng là giám đốc điều hành tại Uber và hiện chịu trách nhiệm thúc đẩy quân đội Hoa Kỳ đẩy nhanh việc áp dụng trí tuệ nhân tạo. Ông khẳng định những tác hại tiềm tàng của AI không phải là không thể kiểm soát; ngoài cơ chế thị trường, rủi ro có thể được giảm thiểu thông qua sự hợp tác trong ngành và sự tham gia của chính phủ.

Những phát ngôn này diễn ra trong bối cảnh tranh chấp kéo dài giữa Bộ Quốc phòng Hoa Kỳ và Anthropic. Trước đó, Bộ Quốc phòng yêu cầu công ty này cho phép quân đội sử dụng các công cụ AI mà không có thêm hạn chế nào, trong khi Anthropic kiên quyết thiết lập các biện pháp bảo mật bổ sung cho mục đích quân sự. Sau khi các cuộc đàm phán giữa hai bên đổ vỡ, chính phủ Hoa Kỳ đã trực tiếp liệt kê công ty này vào danh sách rủi ro chuỗi cung ứng.

Anthropic đã đệ đơn kiện tại các tòa án liên bang ở California và Washington D.C. để yêu cầu hủy bỏ quyết định của Bộ Quốc phòng. Thẩm phán trong vụ kiện tại California đã đưa ra phán quyết có lợi cho Anthropic, nhưng Tòa phúc thẩm liên bang tại Washington vẫn chưa đưa ra quyết định cuối cùng.

Michael cho rằng vụ kiện tại Tòa phúc thẩm khu vực Washington D.C. là "quan trọng hơn" và khẳng định rằng chừng nào tòa án chưa ban hành lệnh cấm sơ bộ, Anthropic vẫn là một rủi ro đối với chuỗi cung ứng.

Michael cũng cáo buộc Anthropic "chọn tòa án" để kiện tụng, cho rằng công ty này đã chọn Tòa án liên bang khu vực phía Bắc California, nơi có lập trường chính trị tương đối tự do. Ông cho rằng Tòa phúc thẩm khu vực Washington D.C. mang tính chất xem xét an ninh quốc gia cao hơn và dự kiến sẽ đưa ra phán quyết trong vài tháng tới.