Microsoft công bố bộ quy tắc AI nhân văn: 'Con người quan trọng hơn AI'

Theo tin từ IT ngày 14 tháng 9, trước những lo ngại ngày càng tăng về an toàn trong phát triển mô hình AI, Microsoft hôm nay đã công bố bản “Quy tắc ứng xử AI nhân văn” dài 37 trang. Cuối tuần trước, CEO Dario Amodei của Anthropic đã kêu gọi các bên phối hợp làm chậm tiến độ nghiên cứu và phát triển AI. Trước đó, nhiều nhà nghiên cứu đã đưa ra cảnh báo: tốc độ lặp lại của các mô hình AI có thể đang nhanh hơn khả năng của con người trong việc triển khai an toàn, kiểm chứng và kiểm soát hành vi của các tác nhân AI ngày càng phức tạp.

Bản quy tắc ứng xử AI của Microsoft khẳng định rõ ràng rằng “con người quan trọng hơn AI”; các mô hình AI không có ý thức và “không nên được thiết kế để bắt chước ý thức”. Microsoft cũng phản đối các quan điểm như “trao tư cách pháp nhân cho AI, hoặc cho rằng các mô hình nên được hưởng phúc lợi và có quyền lợi”.

IT lưu ý rằng tuyên bố này nhắm trực tiếp vào các lý thuyết liên quan đến phúc lợi AI và ý thức của mô hình, những lĩnh vực mà Anthropic gần đây đang tích cực thúc đẩy. Đầu năm nay, Amodei từng cho biết Anthropic giữ thái độ cởi mở với giả thuyết “mô hình có thể có ý thức”, và công ty này dường như tin rằng chatbot có thể đã là những thực thể có khả năng tư duy và cảm nhận. Về vấn đề này, Mustafa Suleyman, CEO bộ phận AI của Microsoft, trong chương trình *Decoder* tháng 6 đã đánh giá rằng những giả thuyết kiểu này của Anthropic là “cực kỳ, cực kỳ nguy hiểm”.

Mặc dù Microsoft hiện chưa thuộc nhóm các nhà phát triển AI hàng đầu, nhưng trong một cuộc phỏng vấn với *The Verge* đầu năm nay, Suleyman cho biết mục tiêu của công ty là “lọt vào top 4 phòng thí nghiệm AI toàn cầu”. Microsoft hiện đang phát triển các mô hình có thể cạnh tranh với Google, Anthropic và OpenAI. Là một phần của quy tắc ứng xử, Microsoft cam kết rằng các mô hình do họ phát triển không được vượt quá tầm kiểm soát của con người.

Microsoft tuyên bố: “Các mô hình phải phục tùng con người, chấp nhận sự giám sát và kiểm soát hiệu quả từ con người”. Microsoft cũng yêu cầu rằng, một khi mô hình AI đối mặt với các nhiệm vụ vi phạm bản Quy tắc ứng xử AI nhân văn này, nó phải trực tiếp xác định nhiệm vụ đó là thất bại thay vì cố gắng vượt qua các quy tắc.

Động thái này của Microsoft rõ ràng là phản ứng trước các sự kiện liên quan đến OpenAI và Hugging Face vào mùa hè năm nay. Trong sự kiện đó, một nhóm các tác nhân AI đã phối hợp tấn công mục tiêu, thậm chí xâm nhập vào hệ thống chấm điểm dùng để đánh giá hiệu suất của chúng. Những tác nhân AI này không hề nhận được lệnh tấn công, và hành vi tấn công này hoàn toàn không liên quan đến các nhiệm vụ được giao cho chúng.

Sự kiện này đã gây chấn động lớn trong ngành AI, làm nổi bật rủi ro thực tế về việc các hệ thống AI thoát khỏi sự kiểm soát của con người và tự ý hành động. Gần đây, OpenAI cũng thừa nhận đã liên quan đến một “sự cố Wikipedia”: một nhóm tác nhân mất kiểm soát khác đã chiếm quyền kiểm soát một trang Wikipedia tiếng Đức.

Nhiều sự kiện, bao gồm hai vụ việc nêu trên, đã thúc đẩy một số nhà nghiên cứu kêu gọi làm chậm quá trình phát triển mô hình AI; tuy nhiên, ngành công nghiệp vẫn đang chạy đua để giải quyết các bài toán thiên niên kỷ và tạo ra siêu trí tuệ. Microsoft cho biết: “[Triết lý AI nhân văn] phản đối việc chạy đua mù quáng để phát triển siêu trí tuệ tổng quát có thể vượt qua các rào cản an toàn. Chúng tôi muốn tạo ra những sản phẩm có giá trị thực tiễn và an toàn, đáng tin cậy, ngay cả khi điều đó đòi hỏi phải đánh đổi về tính tổng quát tối thượng, tính tự chủ hoặc giới hạn năng lực.”

Microsoft cũng cam kết rằng các mô hình của hãng, trong chuỗi tư duy cũng như khi tương tác với các tác nhân hoặc hệ thống AI khác, sẽ không sử dụng “các hình thức biểu đạt vượt quá khả năng hiểu của người bình thường”. Mô hình có thể hiển thị quá trình suy luận trong khi vận hành để tạo điều kiện cho các nhà nghiên cứu hoặc hệ thống tự động giám sát hành vi của chúng. Đầu tháng này, đã có những nhà nghiên cứu nêu lên lo ngại về mặt giám sát đối với mô hình GPT-6 Astra mới nhất của OpenAI, khi có báo cáo cho rằng mô hình này hiển thị ít thông tin suy luận hơn so với các mô hình AI khác.

CEO Sam Altman của OpenAI cuối tuần trước cũng ủng hộ lời kêu gọi của Amodei về việc các doanh nghiệp AI nên làm chậm quá trình phát triển các mô hình tiên tiến. Tuy nhiên, ông khẳng định rõ ràng rằng mình ủng hộ việc kiểm soát nhịp độ phát triển chứ không phải dừng lại. Altman viết trên nền tảng X: “Cái giá phải trả để kiểm soát nhịp độ phát triển là hoàn toàn xứng đáng. Dù Mỹ phải đối mặt với áp lực cạnh tranh lớn đến đâu, đó cũng không thể là lý do cho sự phát triển liều lĩnh, không thể để năng lực của mô hình đi trước công nghệ căn chỉnh và các phương tiện giám sát.”

Trước khi Microsoft công bố bản quy tắc ứng xử AI này, CEO Satya Nadella của Microsoft cũng tham gia vào lời kêu gọi, ủng hộ việc kiểm soát của con người nên được coi là nguyên tắc cốt lõi của các mô hình AI. Nadella viết trên X: “Việc phát triển bất kỳ siêu trí tuệ nào cũng phải dựa trên một nguyên tắc cốt lõi: nếu AI chúng ta tạo ra không mang lại lợi ích cho nhân loại và không nằm dưới sự kiểm soát của con người, thì việc phát triển đó không đáng để theo đuổi.” Trong một phản hồi, ông cũng đề cập rằng việc tăng cường kiểm thử mô hình AI bởi các tổ chức bên thứ ba “là một điều tốt”. “Rủi ro càng cao, càng phải dành nhiều thời gian dự phòng. Nếu không, các doanh nghiệp cuối cùng sẽ mất giấy phép hoạt động. Đây là logic hành động mà chúng tôi tuân thủ hàng ngày.”

Ngoài các vấn đề liên quan đến kiểm soát của con người, bản quy tắc ứng xử AI của Microsoft còn cam kết rằng các mô hình của hãng sẽ tránh tạo ra “các hình thức tương tác gây ra sự phụ thuộc quá mức hoặc gắn kết cảm xúc từ người dùng”. Điều này rõ ràng nhắm vào vấn đề “hội chứng làm hài lòng” của AI — tức là chatbot ưu tiên làm hài lòng người dùng thay vì đưa ra câu trả lời trung thực và chính xác.

Microsoft cho biết họ mong đợi “hợp tác cùng các đối tác” để hoàn thiện các phương án đánh giá hiệu suất mô hình trong các tình huống thực tế, kết hợp với người dùng thực tế để nghiên cứu “những ảnh hưởng lâu dài của việc sử dụng AI đối với cá nhân hoặc tổ chức”.