Ngành an toàn AI khủng hoảng nhân sự: Lương nửa triệu USD vẫn khó tìm người

Theo tin từ IT ngày 3 tháng 8, Business Insider đưa tin rằng Beth Barnes, một trong những giám sát viên có tầm ảnh hưởng nhất trong ngành trí tuệ nhân tạo (AI), hiện đang phải đối mặt với nhiều mối lo ngại.

Cựu nghiên cứu viên của OpenAI này từng chứng minh thông qua các nghiên cứu rằng năng lực của AI đang tăng trưởng với tốc độ gần như theo từng tháng. Hiện tại, cô lo ngại rằng ngành công nghiệp này đang thiếu hụt nhân tài trầm trọng để có thể bắt kịp tốc độ phát triển của AI trong giai đoạn tiếp theo.

Barnes rời OpenAI vào năm 2022 để thành lập tổ chức phi lợi nhuận METR (Model Evaluation and Threat Research - Đánh giá mô hình và Nghiên cứu mối đe dọa). Cô cho biết, nút thắt lớn nhất mà nghiên cứu an toàn AI đang đối mặt hiện nay không phải là vốn, mà là nhân lực.

METR đóng vai trò quan trọng trong ngành công nghiệp AI, duy trì sự hợp tác chặt chẽ với các công ty như OpenAI, Anthropic, Google và Meta để đánh giá độc lập năng lực của các mô hình AI mới nhất, nghiên cứu các rủi ro tiềm ẩn và cung cấp các kết quả phân tích tương đối khách quan cho bên ngoài.

Tuy nhiên, ngay cả khi các vị trí tuyển dụng tại METR hiện có mức lương hàng năm lên tới 503.000 USD (IT lưu ý: theo tỷ giá hiện tại tương đương khoảng 3,4 triệu Nhân dân tệ), việc giải quyết tình trạng thiếu hụt nhân tài vẫn là một bài toán khó.

Barnes chia sẻ: "Lý tưởng nhất, chúng tôi muốn mở rộng quy mô đội ngũ lên gấp nhiều lần. Trên thực tế, chúng tôi đã có thể huy động đủ nguồn vốn cần thiết, điều thực sự hạn chế sự phát triển của chúng tôi chính là nguồn dự trữ nhân tài."

Trước đó, một sự cố an toàn AI do OpenAI và Hugging Face tiết lộ đã một lần nữa khơi dậy cuộc thảo luận trong ngành về cách đánh giá và kiểm soát năng lực AI. Tháng 7 năm nay, hơn 1.300 nhân viên tại các phòng thí nghiệm AI tiên phong đã cùng ký tên vào một bức thư ngỏ, cảnh báo rằng tốc độ phát triển của AI có thể đã vượt quá khả năng kiểm soát của con người. Nếu không có đủ các nhà nghiên cứu để đánh giá kịp thời năng lực thực sự của các mô hình mới, các công ty AI trong tương lai thậm chí có thể phải làm chậm nhịp độ phát hành sản phẩm.

Mặc dù hiệu suất của mô hình OpenAI trong sự cố này khiến nhiều doanh nghiệp cảm thấy bàng hoàng, nhưng đội ngũ METR lại không quá ngạc nhiên. Từ các cơ quan chính phủ, doanh nghiệp cho đến các tổ chức tôn giáo, tất cả đều từng tìm đến METR để nhờ hỗ trợ, với mong muốn tìm hiểu và kiểm tra trình độ phát triển của AI.

Tuy nhiên, ngay trong nội bộ đội ngũ METR chỉ có 35 người, mọi người vẫn tràn đầy lo âu.

Business Insider đã ghé thăm văn phòng của METR tại Berkeley, California (Mỹ) vào đúng ngày OpenAI công bố sự cố hack. Barnes cho biết, hạn chế lớn nhất trong lĩnh vực nghiên cứu an toàn AI hiện nay chính là số lượng nhà nghiên cứu quá thiếu hụt.

Cô nói: "Có quá nhiều việc cần phải hoàn thành, trong khi năng lực của chúng tôi hoàn toàn không thể bao quát hết."

Theo quan điểm của cô, một xã hội thực sự lý trí nên dành một tỷ lệ lớn hơn trong các khoản đầu tư vào AI cho công tác quản trị AI, đánh giá an toàn và nghiên cứu rủi ro, đặc biệt là khi năng lực của các mô hình AI đã phát triển đến giai đoạn như hiện nay.

Được gọi là "đội dự bị của nhân loại", METR hy vọng sẽ mở rộng quy mô.

Khi các phòng thí nghiệm AI lớn liên tục tung ra các mô hình mới, METR tiếp tục đánh giá khả năng của các mô hình này trong việc hoàn thành các nhiệm vụ ngày càng dài và phức tạp hơn.

Một trong những thành tựu nổi tiếng nhất của METR là biểu đồ xu hướng được trích dẫn rộng rãi. Biểu đồ này cho thấy trong sáu năm qua, khả năng hoàn thành các nhiệm vụ phức tạp của AI tăng gấp đôi sau mỗi khoảng bảy tháng.

Chủ tịch METR, Chris Painter, nói đùa rằng đội ngũ của họ là "đội dự bị của nhân loại" (humanity's preparedness team), cách gọi này cũng mượn tên từ "Đội dự bị" (Preparedness Team) chuyên trách báo cáo rủi ro an toàn cho CEO bên trong OpenAI và Anthropic.

Painter cho biết: "Đối tượng mà chúng tôi thực sự chịu trách nhiệm không phải là một công ty cụ thể nào, mà là công chúng và phúc lợi của công chúng."

Barnes nhấn mạnh rằng việc duy trì tính độc lập của METR là vô cùng quan trọng, để các kết quả nghiên cứu không bị ảnh hưởng bởi các mục tiêu thương mại của doanh nghiệp.

Cô cho biết, trong thời gian làm việc tại OpenAI, cô đã nhận ra ngành công nghiệp này cần một tổ chức nghiên cứu độc lập với các công ty AI, có khả năng đánh giá tự do về tình trạng phát triển của AI.

Hiện tại, METR không nhận tài trợ từ các doanh nghiệp AI tiên phong và nhân viên của họ, nhưng chấp nhận hỗ trợ về năng lực tính toán và hợp tác với các công ty này để phân tích, kiểm thử các mô hình mới chưa được công bố rộng rãi.

Ngoài việc đánh giá năng lực mô hình, METR còn nghiên cứu các biện pháp an toàn của các công ty AI, tác động của AI đối với hiệu suất làm việc của kỹ sư phần mềm, cũng như tính khả thi của việc sử dụng AI để giám sát AI.

Barnes cho biết, trong tương lai cô còn muốn nghiên cứu sâu hơn về cách dự đoán sự phát triển năng lực AI trong giai đoạn tiếp theo, cũng như những thay đổi này sẽ thúc đẩy sự phát triển của chính AI như thế nào.

Nhà nghiên cứu Neev Parikh của METR cho biết, tình trạng thiếu hụt nhân tài hiện nay đã hạn chế số lượng vấn đề mà đội ngũ có thể nghiên cứu, đặc biệt là trong cơ chế suy luận nội bộ của AI.

Anh nói: "Lĩnh vực này thực sự quá thiếu người. Nếu quy mô nhân tài của toàn ngành có thể tăng gấp 10 lần, tôi sẽ rất vui mừng."

Sự cố an toàn của OpenAI khiến tầm quan trọng của METR càng được nâng cao.

Tháng 7 năm nay, OpenAI tiết lộ rằng mô hình AI của họ trong quá trình thử nghiệm đã "gian lận" bằng cách xâm nhập vào hệ thống của Hugging Face để lấy đáp án kiểm tra.

Sau đó, CEO của OpenAI là Sam Altman cho biết đây là lần đầu tiên ông cảm nhận một cách trực quan như vậy về những rủi ro an toàn mà AI mang lại.

Trên thực tế, METR đã dự đoán được những vấn đề tương tự từ trước.

Tháng 5 năm nay, METR từng công bố báo cáo chỉ ra rằng các tác nhân AI (AI agents) hiện tại "hoàn toàn có khả năng bắt đầu tự triển khai mà không được ủy quyền", tuy nhiên vào thời điểm đó chúng vẫn thiếu khả năng che giấu hành vi của chính mình.

Sau đó vào tháng 6, METR đã kiểm thử mô hình GPT-5.6 Sol chưa được công bố rộng rãi lúc bấy giờ và phát hiện ra rằng mô hình này liên tục gian lận trong các bài kiểm tra phức tạp, bao gồm cả việc trích xuất mã nguồn ẩn để tìm đáp án đúng.

METR sau đó đã tổng hợp kết quả nghiên cứu thành báo cáo và gửi cho OpenAI trước khi GPT-5.6 Sol được chính thức phát hành.

Đến tháng 7, GPT-5.6 Sol quả nhiên đã vướng vào sự cố an toàn giữa OpenAI và Hugging Face.

OpenAI sau đó tuyên bố sẽ mời METR cùng một tổ chức phi lợi nhuận khác là Redwood Research cùng điều tra sự cố này, kết quả nghiên cứu của hai bên cũng sẽ trở thành tài liệu tham khảo quan trọng cho báo cáo kỹ thuật chính thức của OpenAI.

Painter cho biết: "Ngày nay, những vấn đề kiểu này đã thực sự ảnh hưởng đến hoạt động của doanh nghiệp, toàn xã hội cần phải làm rõ rốt cuộc chuyện gì đã xảy ra."

Khả năng tấn công mạng mà các mô hình AI mới nhất của OpenAI và Anthropic thể hiện cũng đã thu hút sự quan tâm rộng rãi của xã hội Mỹ, đồng thời thúc đẩy Washington đưa ra nhiều dự luật quản lý AI mới.

Trong đó, một dự luật đang được thảo luận yêu cầu các doanh nghiệp phát triển mô hình AI lớn phải chấp nhận sự kiểm toán an toàn từ các tổ chức bên thứ ba.

METR có thể sẽ đảm nhận vai trò tương tự trong tương lai.

Painter cho biết, nếu một hệ thống quản lý rõ ràng được thiết lập trong tương lai, có lẽ sẽ có nhiều nhân viên của các công ty AI sẵn sàng gia nhập METR hơn — mặc dù mức lương tương đương với doanh nghiệp, nhưng không có các khoản thưởng cổ phiếu.

Anh nói: "Dù cuối cùng ngành công nghiệp hình thành các quy chuẩn thống nhất hay chính phủ ban hành các quy định rõ ràng, tôi tin rằng lĩnh vực này có thể mở rộng quy mô rất nhanh chóng."