Nhân sự cấp cao DeepMind từ chức vì Google hợp tác với Lầu Năm Góc

Theo tin từ Business Insider ngày 16/7, một nhà nghiên cứu tại Google DeepMind cho biết ông đã quyết định từ chức do công ty hợp tác với Bộ Quốc phòng Mỹ. Điều này càng làm gia tăng sự bất mãn trong nội bộ Google đối với dự án hợp tác quân sự này.

Alex Turner, nhà khoa học nghiên cứu từng làm việc về an toàn AI tại Google DeepMind trong hơn hai năm, cho biết ông đã rời công ty vào tháng 6 năm nay. Turner chia sẻ rằng ông đưa ra quyết định từ chức sau khi Google ký thỏa thuận với Lầu Năm Góc, cho phép cơ quan này sử dụng công nghệ AI của Google cho các hoạt động mật.

IT lưu ý rằng, vào đầu tháng 5 năm nay, Bộ Quốc phòng Mỹ đã xác nhận đạt được thỏa thuận với Google cùng nhiều công ty khác như Microsoft, Amazon và OpenAI để phục vụ cho "các mục đích hoạt động quân sự hợp pháp".

"Khi Google ký thỏa thuận này, lương tâm tôi chỉ nói với tôi rằng: 'Không được'", Turner chia sẻ trong một cuộc phỏng vấn.

Vào tháng 5 năm nay, sau khi Lầu Năm Góc công bố hợp tác với Google và các phòng thí nghiệm AI khác, người phát ngôn của Google từng phản hồi: "Chúng tôi vẫn giữ vững sự đồng thuận giữa khu vực tư nhân và công cộng rằng AI không nên được sử dụng cho giám sát hàng loạt trong nước hoặc các hệ thống vũ khí tự hành khi thiếu sự giám sát thích hợp của con người".

Tuy nhiên, sự hợp tác giữa Google và Lầu Năm Góc đã vấp phải sự phản đối từ một bộ phận nhân viên. Vào tháng 4 năm nay, khoảng 600 trong tổng số 195.000 nhân viên của Google đã ký vào một bản kiến nghị, yêu cầu công ty không tham gia vào bất kỳ thỏa thuận nào liên quan đến công việc mật.

Do các thỏa thuận bảo mật hạn chế khả năng giám sát của Google đối với cách thức công nghệ AI của họ được sử dụng thực tế, một số nhân viên đã bày tỏ sự lo ngại về vấn đề này.

Một nhà nghiên cứu của DeepMind từng chia sẻ trên mạng xã hội X rằng ông "cảm thấy xấu hổ" về việc Google đạt được thỏa thuận với Lầu Năm Góc. Một nhân viên khác cũng đã đăng một lá thư từ chức nội bộ vào tháng 5, trong đó cũng đề cập đến vấn đề mối quan hệ giữa Google và quân đội Mỹ ngày càng sâu sắc.

Turner cho biết ông bắt đầu cân nhắc rời Google từ tháng 2 năm nay, khi ông cho rằng công ty có khả năng sẽ ký thỏa thuận với Lầu Năm Góc. "Nếu họ không ký thỏa thuận này, tôi nghĩ có lẽ tôi vẫn sẽ tiếp tục làm việc thêm vài tháng nữa. Nhưng khi Google ký kết, tôi đã không thể tiếp tục được nữa. Tâm trí tôi bảo rằng: 'Không được'", ông viết trong một bài đăng trên blog vào thứ Tư.

Turner cho biết hiện tại ông vẫn chưa tìm được công việc tiếp theo.

Theo giới thiệu, đầu năm nay, Turner từng đề xuất một bộ khung về ứng dụng AI trong quân sự với hy vọng Google sẽ áp dụng. Trong đó bao gồm một số biện pháp hạn chế, chẳng hạn như đảm bảo hệ thống nhận diện mục tiêu và tấn công bằng AI luôn nằm dưới sự kiểm soát của con người.

Người phát ngôn của Google cho biết công ty luôn sẵn sàng lắng nghe các đề xuất liên quan từ Turner.

Đầu năm nay, Google đã cập nhật các nguyên tắc AI của mình, xóa bỏ các điều khoản cam kết trước đây như "không phát triển công nghệ AI phục vụ vũ khí hoặc giám sát hàng loạt".

CEO Demis Hassabis của Google DeepMind lúc đó đã tham gia viết một bài blog để công bố những thay đổi này. Quyết định đó cũng từng gây ra sự bất mãn cho một bộ phận nhân viên.

Trong một tin nhắn nội bộ gửi cho đồng nghiệp trước khi rời đi, Turner cho biết Hassabis từng phát biểu tại cuộc họp nhân viên rằng các nguyên tắc AI của công ty không thay đổi, nhưng hành động xóa bỏ các cam kết liên quan của Google lại mâu thuẫn với tuyên bố này.

"Nếu tôi thậm chí không thể tin vào một tuyên bố dễ dàng kiểm chứng, thì làm sao tôi có thể yên tâm tin vào những cơ chế giám sát nghiêm ngặt mà ông ấy nói là để bảo vệ chúng ta?", Turner viết trong tin nhắn nội bộ.

Turner cho biết đầu năm nay, ông từng thu hút sự chú ý của lãnh đạo cấp cao Google. Ông đã có bữa trưa với Giám đốc khoa học Jeff Dean để thảo luận về những lo ngại của mình đối với việc ứng dụng AI trong quân sự.

Ngoài ra, ông còn tham gia tổ chức một bức thư ngỏ của nhân viên gửi tới Jeff Dean. Trước đó, Jeff Dean từng công khai ủng hộ Anthropic, công ty từng xảy ra tranh chấp với chính phủ Mỹ về vấn đề sử dụng AI trong quân sự.

Bức thư này kêu gọi Google thiết lập các "lằn ranh đỏ" rõ ràng trong thỏa thuận hợp tác với Lầu Năm Góc, ví dụ như cấm Gemini điều khiển các hệ thống vũ khí tự hành mà không có sự giám sát của con người.

Turner cho biết đầu năm nay, ông đã trình bày phương án khung AI quân sự của mình cho CEO DeepMind là Hassabis. Hassabis đã đề nghị để hai nhân sự cấp cao thuộc bộ phận chính sách của Google đánh giá phương án này.

Sau vài vòng thảo luận về công việc tiếp theo, Turner cho biết sau đó ông không còn nhận được phản hồi liên quan. Không lâu sau đó, Bộ Quốc phòng Mỹ xác nhận đã đạt được thỏa thuận hợp tác với Google.

"Khoảnh khắc đó, tôi nhận ra mình không thể tiếp tục ở lại Google trái với lương tâm, vì vậy tôi đã rời đi", Turner viết trên blog.

Hiện tại, Turner cho biết ông đang độc lập thực hiện các nghiên cứu về an toàn và bảo mật AI, đồng thời tìm kiếm hướng đi tiếp theo.

"Khi một nhân viên rời khỏi các phòng thí nghiệm AI hàng đầu, họ thường sẽ đầu quân cho một công ty khác", ông viết, "Họ thường nhận được những khoản tiền thưởng khổng lồ nhờ đó. Nhưng đó không phải là lựa chọn của tôi, tôi không tiếp cận các phòng thí nghiệm đối thủ". "Tôi hiện đang thất nghiệp", ông nói thêm.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.