CEO Anthropic đề xuất đưa thanh tra độc lập vào giám sát AI, gây tranh cãi về quyền hạn

Theo tin từ CNBC ngày 17 tháng 9, CEO của Anthropic, ông Dario Amodei, đã đề xuất việc đưa các đánh giá viên an toàn độc lập từ bên thứ ba vào làm việc lâu dài tại các công ty AI tiên phong. Những người này sẽ được cấp quyền truy cập gần như tương đương với đội ngũ rủi ro nội bộ và có quyền tự chủ trong việc công bố kết quả điều tra với mức độ biên tập hạn chế. Ông viện dẫn mô hình giám sát nhúng trong ngành ngân hàng làm tiền lệ cho đề xuất này.

Tuy nhiên, nhiều chuyên gia quản lý ngân hàng và các chuyên gia đánh giá AI chỉ ra rằng, phương án này thiếu đi quyền thực thi cưỡng chế mà các nhà quản lý ngân hàng đang nắm giữ. Các đánh giá viên không có quyền ngăn chặn việc huấn luyện hoặc phát hành mô hình, do đó quyền lực thực tế của hai bên là hoàn toàn khác biệt.

Trước đó, cựu nghiên cứu viên của Anthropic, Jacob Coxon, đã từ chức và cảnh báo rằng các phòng thí nghiệm AI tiên phong đang chạy đua theo những hệ thống có nguy cơ mất kiểm soát. Trong một bài viết dài đăng cuối tuần trước, Amodei đã đưa ra kế hoạch trên và cam kết Anthropic sẽ cung cấp cho các đánh giá viên bên thứ ba quyền truy cập hệ thống tương đương với đội ngũ rủi ro nội bộ. Ông viết rằng đề xuất này "có tiền lệ trong ngành ngân hàng, nơi đôi khi các 'giám sát viên' quản lý được nhúng vào làm việc cùng nhân viên". Amodei cũng cảnh báo rằng trong 6 đến 12 tháng tới, một nhóm tác nhân thông minh bị lệch lạc có thể chiếm lĩnh phần lớn internet và gây ra thiệt hại hàng trăm tỷ USD. Bài viết này đã gây ra sự chia rẽ về quan điểm quản lý trong cộng đồng AI và nội bộ chính phủ, bao gồm cả Tổng thống Mỹ Donald Trump.

Julie Andersen Hill, Trưởng khoa Luật tại Đại học Wyoming và là chuyên gia về quản lý ngân hàng, cho biết các nhà quản lý ngân hàng sở hữu quyền cưỡng chế hành chính thực sự. Bà nói, tại các ngân hàng lớn, thanh tra chính phủ thường trực tại cơ quan, có thể truy cập hệ thống và nhân viên nội bộ, đồng thời có quyền ra lệnh cho ngân hàng dừng một hoạt động kinh doanh, hạn chế tăng trưởng, buộc thay đổi ban lãnh đạo, và trong trường hợp cực đoan là đóng cửa ngân hàng. Ngược lại, các đánh giá viên theo đề xuất của Amodei chỉ có thể điều tra và báo cáo, không có quyền thực thi tương tự, cũng không có quyền pháp lý để ngăn chặn việc huấn luyện hoặc phát hành mô hình. "Nếu bạn không trao cho họ quyền lực đó, tôi không hiểu họ đang làm gì," Hill nói, "Đây là sự khác biệt căn bản, vì quyền lực của các nhà quản lý ngân hàng lớn hơn nhiều."

Thực tế của đánh giá viên: Không có quyền phủ quyết

Albert Ziegler, Giám đốc AI tại công ty an ninh mạng XBOW, người dẫn dắt đội ngũ đánh giá năng lực mô hình, đã tiếp cận sớm các mô hình chưa phát hành của các nhà phát triển lớn như Anthropic và OpenAI. Ông cho biết công việc đánh giá hàng ngày không hề kịch tính như những câu chuyện về mối đe dọa sinh tồn: đội ngũ có thể phát hiện mô hình tạo ra nội dung vô nghĩa dưới các định dạng yêu cầu bất thường, hoặc cần sự can thiệp thường xuyên hơn từ kiểm tra an ninh bên ngoài. Tuy nhiên, ông cho biết họ chưa từng chứng kiến những hậu quả thảm khốc do "hành vi ẩn giấu kết hợp với năng lực chưa từng có" mà mọi người lo ngại.

Ziegler nói rằng kiểm thử hộp đen (black-box testing) có thể tiết lộ liệu mô hình có khả năng thực hiện các nhiệm vụ nguy hiểm hay không, nhưng để đánh giá liệu toàn bộ hệ thống có nguy hiểm hay không, có thể cần truy cập vào các chỉ dẫn, công cụ và quyền hạn, kiểm soát an ninh xung quanh mô hình cũng như nhật ký các hành động đã thử nghiệm. Ngay cả như vậy, các rủi ro nghiêm trọng có thể chỉ xuất hiện trong các tổ hợp điều kiện mà người đánh giá chưa từng kích hoạt. "Chúng tôi thực sự không có quyền phủ quyết," ông nói. Người đánh giá có thể phát hiện và ghi lại các rủi ro mà nhà phát triển bỏ sót, đồng thời "buộc họ phải đưa ra quyết định có hiểu biết" trước khi phát hành, nhưng quyền quyết định cuối cùng vẫn nằm trong tay công ty.

Hill cũng thừa nhận rằng ngay cả khi có quyền lực lớn hơn, mô hình quản lý ngân hàng cũng không hoàn hảo. Các nhà quản lý đã thất bại trong việc ngăn chặn các vụ sụp đổ lớn và thường bị chỉ trích là quá thân thiết với đối tượng quản lý sau các cuộc khủng hoảng. Việc quản lý liên tục gây tốn kém chi phí cho các doanh nghiệp, có thể củng cố vị thế của các doanh nghiệp lớn có khả năng hấp thụ chi phí, đồng thời làm tăng rào cản gia nhập đối với các đối thủ nhỏ hơn.

Câu hỏi về tính độc lập và xung đột lợi ích

Những đề xuất này cũng vấp phải sự chỉ trích. Những người phản đối cho rằng Anthropic và OpenAI đang lợi dụng nỗi lo ngại về an toàn để thúc đẩy một phương thức quản lý có thể giúp họ tránh khỏi sự cạnh tranh và trách nhiệm pháp lý. Anthropic cũng đang đối mặt với các cáo buộc về xung đột lợi ích liên quan đến các tổ chức đánh giá mà họ đề xuất sử dụng.

Hill cho rằng, nếu các công ty AI tự chọn đánh giá viên, kiểm soát phạm vi quan sát và có thể tự do phớt lờ kết luận của họ, "thì điều đó trông rất giống một bộ phận tuân thủ nội bộ". "Nếu Anthropic muốn thành lập bộ phận tuân thủ nội bộ, hiện không có gì ngăn cản họ làm điều đó, họ không cần chính phủ phải làm việc này." Bà nói thêm, "Những người làm AI này dường như chỉ muốn có ai đó nhìn vào họ, rồi truyền đạt với công chúng rằng: 'Chúng tôi đã nhìn vào phía sau bức màn, mọi thứ đều ổn'. Điều này hơi bất thường trong ý nghĩa quản lý."

Amodei đã nêu tên tổ chức phi lợi nhuận Model Evaluation and Threat Research (METR) như một bên đánh giá nhúng tiềm năng. Anthropic trước đây từng hợp tác với METR và gần đây đã yêu cầu họ xem xét các sự cố đánh giá an ninh mạng liên quan đến Claude. Một cựu nghiên cứu viên khác của Anthropic là Joe Benton gần đây đã rời đi để gia nhập METR, làm công việc đánh giá nhúng rủi ro AI. Sự sắp xếp này làm nổi bật căng thẳng cấu trúc xung quanh từ "độc lập": nhà phát triển chọn ai được quyền truy cập, xác định ranh giới và giữ quyền kiểm soát đối với việc xử lý kết quả điều tra sau đó. Deborah Raji, nghiên cứu viên về kiểm toán thuật toán và trách nhiệm giải trình AI tại Đại học California, Berkeley, cho biết rất khó để bỏ qua tất cả những gánh nặng đi kèm với mối quan hệ với METR. "Họ bị nghi ngờ có sự ràng buộc về tài chính và ý thức hệ, xung đột lợi ích cá nhân (như cuộc hôn nhân giữa một điều tra viên với thành viên hội đồng quản trị OpenAI, và việc tuyển dụng cựu nhân viên từ các phòng thí nghiệm tiên phong, v.v.), và trong vài năm qua đã đặc biệt gắn chặt với Anthropic và OpenAI, hầu như không có nghĩa vụ luân chuyển." Bà nói thêm, cấu trúc quan hệ hiện tại này "rất bất thường, cho phép đủ loại chuyện kỳ lạ xảy ra".

Tuy nhiên, Raji cũng nói rằng đáng ghi nhận là METR rất công khai về các chi tiết hợp đồng ký với OpenAI liên quan đến cuộc điều tra Hugging Face, "nhưng bạn có thể thấy cách OpenAI thiết lập các tham số sắp xếp, kiểm soát 'phạm vi' kiểm toán, quyết định những gì họ có thể hoặc không thể truy cập, cũng như những phát hiện nào có thể hoặc không thể công bố". Trong khi đó, Ziegler cho biết ông không cảm thấy mối quan hệ tiếp cận sớm làm tổn hại đến tính độc lập của XBOW, vì các nhà phát triển muốn biết vấn đề nằm ở đâu, thay vì để đội ngũ của mình xác nhận một kết luận đã được định sẵn.

Raji cũng cho rằng, chỉ có quyền truy cập không đồng nghĩa với độc lập. Trong một hệ thống kiểm toán trưởng thành, kiểm toán viên phải đáp ứng các yêu cầu về năng lực và tuân thủ các quy tắc về xung đột lợi ích và hành vi. "Nếu bạn không thể đáp ứng các tiêu chuẩn về hành vi độc lập, bạn thực sự không đủ tư cách để trở thành một kiểm toán viên thực thụ. Điều này sẽ làm mất đi sự tin cậy của toàn bộ quy trình." Bà cho rằng, nên để các tổ chức độc lập với công ty quyết định ai đủ tư cách thực hiện đánh giá, người đánh giá có thể kiểm tra những gì, và kết quả điều tra phải được báo cáo đến đâu. "Bạn không thể thức dậy vào một buổi sáng và nghĩ rằng mình đủ tư cách làm thanh tra ngân hàng, và công ty bị kiểm toán cũng không thể tùy ý chỉ định bạn là thanh tra ngân hàng đủ tiêu chuẩn. Nếu không, nó chẳng khác nào việc công ty mời một người bạn bình thường đến kiểm tra bài tập về nhà."

Sarah Heck, Giám đốc chính sách công của Anthropic, phát biểu tại hội nghị Politico Decoded hôm thứ Tư rằng các công ty AI không thể dựa vào "bộ quy tắc danh dự" để quản lý việc giám sát và an toàn. "Chúng tôi muốn hợp tác với chính phủ để tìm ra phương án hợp lý. Chúng tôi không thể tự kiểm tra bài tập của chính mình, điều này rất rõ ràng." Bà cho biết Anthropic liên lạc với Nhà Trắng hàng ngày và hợp tác với Quốc hội "quanh năm".

Thiếu hụt khung quản lý và "tẩy trắng kiểm toán"

Christina Ho, Giám đốc đảm bảo tại công ty kế toán Oath và là cựu thành viên của Ủy ban Giám sát Kế toán Công ty Đại chúng (PCAOB), cho biết xung đột này không chỉ riêng ngành AI mới có. Kiểm toán viên được khách hàng trả tiền, nhưng phải đặt câu hỏi về công việc của khách hàng, giữa tính độc lập và sự tự bảo vệ luôn tồn tại sự căng thẳng. Tuy nhiên, kể từ sau khủng hoảng tài chính, luật pháp đã được sửa đổi, cho phép truy cứu trách nhiệm kiểm toán viên theo Đạo luật Sarbanes-Oxley. AI còn mang đến vấn đề thứ hai: năng lực chuyên môn. Kiểm toán truyền thống thường tập trung vào việc liệu công ty có tuân thủ quy trình và kiểm soát thích hợp hay không. "Họ phải có khả năng xác minh hệ thống thực tế và đầu ra của nó, chứ không chỉ là quy trình phát triển mô hình. Hiện tại, số người có đủ năng lực làm công việc này rất hạn chế."

Hill cho rằng, ngay cả khi các xung đột tiềm ẩn có thể được quản lý, các đề xuất quản lý AI này vẫn chưa cung cấp một khung pháp lý chi tiết. Bà chỉ ra rằng đây là chìa khóa trong công việc của thanh tra ngân hàng. "Nếu không có tiêu chuẩn để ràng buộc nhà quản lý, mà chỉ đơn thuần thả lỏng nhà quản lý, thì thực tế là không hiệu quả." AI tiên phong hiện không có một bộ quy tắc vận hành để định nghĩa hành vi nào bị cấm, người đánh giá có quyền tự quyết ở khía cạnh nào, hoặc những phát hiện nghiêm trọng sẽ dẫn đến hậu quả gì. Quyền truy cập và công bố có thể tạo ra sự giám sát bên ngoài hữu ích, nhưng trong trường hợp công ty vẫn giữ quyền kiểm soát, thì không thể mang lại sự tin cậy cho công tác quản lý. "Bạn không thể chiếm cả hai đầu. Bạn không thể nắm giữ mọi quyền kiểm soát, rồi lại mong đợi có được sự tin cậy như khi từ bỏ quyền kiểm soát." Raji cho biết, tiêu chuẩn phân định cuối cùng là: liệu những phát hiện bất lợi có tạo ra hậu quả hay không. "Mục đích của kiểm toán là khiến bên bị kiểm toán phải chấp nhận một phán quyết có hậu quả. Nếu bạn thực hiện kiểm toán mà không có gì xảy ra, đó chính là 'tẩy trắng kiểm toán' (audit washing)." Hill nói, nếu nguy hiểm thực sự lớn như những gì các nhà lãnh đạo AI tuyên bố, thì bài kiểm tra cuối cùng rất đơn giản: "Nếu bạn thực sự tin rằng AI có sức mạnh hủy diệt xã hội, thì bạn phải có một giám sát viên độc lập có khả năng rút phích cắm."