Google tách đội ngũ AI trách nhiệm khỏi DeepMind, nhân viên lo ngại về tính độc lập trong kiểm soát an toàn

Cảm ơn bạn đọc "Hoa Nam Ngô Ngạn Tổ" của IT đã gửi thông tin đóng góp!

Theo tin từ IT ngày 27 tháng 8, dựa trên một email nội bộ mà tờ *The Wall Street Journal* có được, Google đang chuyển một đội ngũ chuyên nghiên cứu về các rủi ro của trí tuệ nhân tạo (AI) và tác động xã hội của nó ra khỏi Google DeepMind. Google DeepMind là đơn vị nghiên cứu chịu trách nhiệm phát triển các mô hình AI tiên tiến của công ty.

Hai nhân viên hiện tại của DeepMind cho biết, sự thay đổi trong cơ cấu báo cáo này đã gây ra lo ngại cho một số thành viên trong nhóm, những người cho rằng động thái này có thể gây ảnh hưởng tiêu cực đến công việc nghiên cứu của họ. Sự điều chỉnh này diễn ra sau đợt tái cơ cấu gần đây của Google DeepMind, trong đó đồng sáng lập kiêm Giám đốc điều hành (CEO) Demis Hassabis đã từ nhiệm vị trí CEO để chuyển sang đảm nhận chức danh Chủ tịch mới được thành lập.

Bắt đầu từ tuần tới, đội ngũ "AI Responsibility" (Trách nhiệm AI) với khoảng 90 nhân sự này sẽ được sáp nhập vào bộ phận Các vấn đề toàn cầu (Global Affairs) của Google, bộ phận chịu trách nhiệm vận động hành lang và các vấn đề chính sách công thay mặt cho toàn bộ công ty.

IT lưu ý rằng, đợt điều chỉnh nhân sự này là một phần trong thay đổi cơ cấu tổ chức quy mô lớn hơn của Google, nhằm mục đích tích hợp Google DeepMind chặt chẽ hơn với các bộ phận khác của Google. Google đã mua lại DeepMind vào năm 2014 và kể từ đó, DeepMind luôn hoạt động theo mô hình bán tự chủ. Ở vị trí mới, Hassabis sẽ chủ yếu phụ trách các vấn đề đối ngoại và các chủ đề vĩ mô trong lĩnh vực AI, trong khi người kế nhiệm ông điều hành DeepMind là Koray Kavukcuoglu. Tuy nhiên, chức danh của Kavukcuoglu sẽ là Phó chủ tịch cấp cao thay vì CEO.

"GDM đang chuyển sang một cấu trúc PA (Product Area - Lĩnh vực sản phẩm) điển hình hơn, tức là đưa các đội ngũ trung tâm vào các bộ phận trung tâm của Google," Helen King, Phó chủ tịch Google DeepMind phụ trách đội ngũ AI Responsibility, viết trong email nội bộ gửi các thành viên trong nhóm. PA ở đây đề cập đến "Lĩnh vực sản phẩm", thuật ngữ mà Google dùng để gọi các bộ phận kinh doanh như Google Search. Các nhóm khác bao gồm nhân sự và chính sách cũng sẽ được chuyển từ DeepMind sang các bộ phận trung tâm của Google.

Tạp chí *Time* trước đó từng đưa tin rằng Google đang cân nhắc tái cơ cấu một số đội ngũ an toàn của DeepMind.

Khi sự giám sát từ bên ngoài đối với tác động của AI ngày càng tăng, cùng với làn sóng phản đối công nghệ này đang nóng lên, một số nhân viên trong nhóm AI Responsibility đã bày tỏ lo ngại với ban quản lý thông qua các bảng tin nội bộ và các cuộc họp. Họ cho rằng sự điều chỉnh này có thể làm suy yếu khả năng thực hiện các nghiên cứu độc lập của nhóm.

Theo những người am hiểu vấn đề, nhóm AI Responsibility bao gồm nhiều nhóm nghiên cứu nhỏ, trong đó một số nhóm chịu trách nhiệm kiểm tra các rủi ro tiềm ẩn của mô hình AI Google trong các lĩnh vực hóa học, sinh học, phóng xạ và hạt nhân, trong khi những nhóm khác nghiên cứu cách con người tương tác với AI và các tác động tâm lý mà chatbot có thể gây ra.

Nhân viên lo ngại rằng sau khi rời khỏi DeepMind, họ sẽ không thể nắm bắt sâu sát công việc của các đội ngũ đang phát triển mô hình AI Gemini như trước đây, đồng thời có thể giảm cơ hội tiếp xúc với các nhóm này, từ đó ảnh hưởng đến khả năng phát hiện và xác định các đề tài nghiên cứu liên quan.

Một phát ngôn viên của Google cho biết trong một tuyên bố: "Google có nhiều đội ngũ đang thực hiện công việc về an toàn AI và trách nhiệm AI. Bằng cách để nhóm AI Responsibility phối hợp chặt chẽ hơn, chúng tôi đang tăng cường khả năng hỗ trợ của các đội ngũ này đối với sự an toàn của mô hình và sản phẩm."

Bộ phận Các vấn đề toàn cầu của Google cũng bao gồm đội ngũ Tin cậy và An toàn (Trust and Safety) trung tâm của công ty. Các đội ngũ an toàn AI khác vẫn sẽ ở lại bên trong Google DeepMind, bao gồm các nhóm phụ trách các lĩnh vực như hành vi mô hình, quyền riêng tư và bảo mật.

Helen King đã nỗ lực trấn an nhân viên rằng sự điều chỉnh này sẽ không ảnh hưởng đến công việc hàng ngày của nhóm, cũng như không thay đổi sứ mệnh của nhóm. Trong email, bà cho biết nhóm vẫn sẽ tập trung vào các chủ đề mới nổi và các vấn đề tiên phong trong lĩnh vực AI có trách nhiệm, đồng thời việc chia sẻ kết quả nghiên cứu ra bên ngoài thông qua các bài báo và sự kiện "vẫn sẽ được hỗ trợ và vẫn rất quan trọng". Bà cũng khẳng định nhóm sẽ tiếp tục có quyền truy cập vào DeepMind, đồng thời giữ nguyên các nguồn lực tính toán và biên chế nhân sự hiện có.

"Demis vẫn rất coi trọng AI có trách nhiệm và vẫn có kế hoạch tham gia vào các công việc liên quan," King viết trong email.

Những người am hiểu vấn đề cho biết đợt tái cơ cấu này dự kiến sẽ chính thức có hiệu lực vào đầu tháng 9. Trước khi việc điều chỉnh được thực hiện chính thức, một số nhân viên đã hy vọng được chuyển sang các nhóm nghiên cứu vẫn ở lại DeepMind nhưng đã bị từ chối.

Nguồn tin cũng tiết lộ rằng trong các cuộc họp thảo luận về sự điều chỉnh này, ban quản lý đã thừa nhận rằng động thái này có thể khiến một số nhân viên DeepMind tìm kiếm cơ hội tại các phòng thí nghiệm AI khác.

Trong vài tháng qua, DeepMind đã có nhiều nhà nghiên cứu hàng đầu rời đi. Đồng thời, các mô hình AI chủ lực của công ty này cũng đã tụt hậu so với các mô hình của Anthropic và OpenAI về khả năng lập trình và các năng lực khác.

Đầu tháng này, Jeff Dean, nhân vật cốt cán từ những ngày đầu của các dự án AI tại Google, đã rời công ty và cùng ba nhà nghiên cứu kỳ cựu khác của DeepMind thành lập một công ty khởi nghiệp. Đầu mùa hè năm nay, hai nhà nghiên cứu nổi tiếng nhất của DeepMind là Noam Shazeer và John Jumper cũng lần lượt rời công ty; người thứ nhất gia nhập OpenAI, người thứ hai gia nhập Anthropic.