OpenAI chủ động 'hãm phanh': Liệu việc tự nguyện giảm tốc có thực sự đảm bảo an toàn cho AI?

Với một đợt IPO đang đến gần, sự cạnh tranh gay gắt từ Anthropic, cùng các đối thủ từ Trung Quốc và các mô hình mã nguồn mở đang bám đuổi sát nút, OpenAI có rất nhiều lý do để tăng tốc. Thay vào đó, họ lại chọn cách đạp phanh.

Vào thứ Ba, công ty cho biết họ đã làm chậm tốc độ phát triển một số dự án AI trong khi thắt chặt an ninh và các biện pháp bảo vệ. Điều này bao gồm việc tạm dừng hai tuần quá trình huấn luyện học tăng cường (reinforcement learning) trên các “mô hình mới nhất dự kiến triển khai”, và trì hoãn vô thời hạn “đợt chạy RL tiên phong lớn nhất đã lên kế hoạch”.

Quyết định này là một bài kiểm tra công khai đối với một ý tưởng mà những người ủng hộ an toàn AI đã thúc đẩy trong nhiều năm: rằng các công ty nên sẵn sàng rút lui khỏi cuộc đua AI và làm chậm mọi thứ lại khi các biện pháp bảo vệ của họ không theo kịp những gì họ đang xây dựng. Nhưng khi cuộc đua xung quanh vẫn tiếp diễn, liệu việc làm chậm lại có đạt được kết quả gì không?

“Để việc tạm dừng có tính bền vững, nó phải được thực hiện trên toàn ngành.”

Bất chấp mọi lời bàn tán về việc làm chậm lại, OpenAI không hẳn là đang đứng yên. Công ty cho biết họ đang “điều tiết nhịp độ” phát triển, một thuật ngữ mơ hồ và thiếu chính xác nhưng đã trở thành một phần trong từ điển của ngành trong những tháng gần đây. Trên thực tế, sự chậm lại này có phạm vi rất hẹp. Thông báo của OpenAI cho biết việc tạm dừng chỉ áp dụng cho các mô hình dự kiến triển khai trong khi họ tăng cường an ninh và giám sát trước khi thực hiện các loại thử nghiệm mà ở đó các mô hình có khả năng thoát ra và tấn công các mục tiêu thực tế. Điều này không nhất thiết có nghĩa là sẽ có một sự chậm lại đáng kể trong lộ trình phát triển rộng hơn của công ty.

Tất nhiên, có một lý do rất chính đáng để OpenAI tập trung vào việc bảo mật các hệ thống như vậy trước khi thử nghiệm chúng. Chỉ mới tháng trước, OpenAI tiết lộ rằng các mô hình của họ đã thoát khỏi môi trường thử nghiệm được cho là an toàn và tấn công nền tảng dành cho nhà phát triển Hugging Face mà OpenAI không hề hay biết. Sự cố này đã thúc đẩy một cuộc rà soát rộng rãi hơn về các quy trình thử nghiệm trong ngành, qua đó phát hiện các sự cố tương tự liên quan đến nhiều mô hình hơn từ OpenAI, cũng như các mô hình từ Anthropic và Meta. OpenAI có mọi lý do để tránh lặp lại điều này, đặc biệt là khi sự giám sát từ các nhà lập pháp ngày càng tăng.

Từ bên ngoài, rất khó để biết OpenAI chân thành đến mức nào khi dừng lại chỉ vì mục đích an toàn, đặc biệt là khi công ty và các nhân sự cấp cao đã từng lên tiếng rất mạnh mẽ về điều đó. Tuy nhiên, cam kết về an toàn của công ty đã bị đặt dấu hỏi trong những tháng gần đây sau hàng loạt sự ra đi của các thành viên chủ chốt trong nhóm an toàn và việc giải thể nhóm chuẩn bị (preparedness team). OpenAI đã không phản hồi yêu cầu bình luận của The Verge.

Có những lý do chính đáng để coi trọng việc làm chậm lại của OpenAI. Các chuyên gia trao đổi với The Verge đã chỉ ra cái giá của việc chậm lại trong thời điểm cạnh tranh gay gắt. Mỗi sự trì hoãn đều mang lại cho đối thủ nhiều thời gian hơn để bắt kịp hoặc nới rộng khoảng cách dẫn đầu. Marius Hobbhahn, CEO và đồng sáng lập của Apollo Research, một tổ chức nghiên cứu an toàn AI, cho biết: “Do tính chất khốc liệt của cuộc đua AI, mọi người đều có động lực để làm việc với tốc độ chóng mặt. Việc tự nguyện làm chậm lại sẽ làm xấu đi vị thế của bạn trong cuộc đua, vì vậy đó không phải là điều mà một phòng thí nghiệm sẽ thực hiện một cách nhẹ nhàng.”

Quyết định này cũng phù hợp một cách rộng rãi với học thuyết an toàn đã công bố của OpenAI, Khung chuẩn bị (Preparedness Framework), cũng như các khung an toàn của các công ty AI khác, theo lời Alan Chan, một nghiên cứu viên tại trung tâm nghiên cứu chính sách công nghệ GovAI. “Nguyên tắc cơ bản là: Chỉ tiếp tục phát triển và/hoặc triển khai khi chúng ta có các biện pháp giảm thiểu rủi ro cho phép thực hiện điều đó với mức rủi ro chấp nhận được,” Chan nói. Là một phần của các biện pháp an toàn mới, OpenAI cho biết họ có kế hoạch xem xét và “phát triển” khung này — phần lớn trong số đó có từ năm 2023, khi nó được công bố lần đầu — để tính đến những tiến bộ trong các mô hình của họ.

Cũng có những lý do chính đáng để tin rằng các biện pháp bảo vệ mới sẽ thực sự làm cho các hệ thống của OpenAI an toàn hơn, ít nhất là trong ngắn hạn, mặc dù các chuyên gia cảnh báo rằng điều này rất khó đánh giá nếu không có thêm thông tin. “Đây là những bước đi tốt, nếu được thực hiện hiệu quả, có lẽ là đủ để ngăn chặn thế hệ tác nhân (agent) hiện tại gây ra tác hại,” Adam Gleave, đồng sáng lập và CEO của tổ chức an toàn AI FAR.AI, nói với The Verge. “Câu hỏi chính là làm thế nào OpenAI sẽ giữ nhịp độ khi năng lực của các mô hình tăng lên.”

Câu hỏi của Gleave chỉ ra một vấn đề rộng lớn hơn: Nếu các biện pháp bảo vệ kỹ thuật lại thất bại, thì sao? Không có gì bắt buộc OpenAI phải dừng lại và đánh giá tình hình lần này, đó chính là điều khiến sự sẵn lòng của họ trở nên có ý nghĩa. Nhưng điều đó cũng có nghĩa là không có gì đảm bảo OpenAI — hay bất kỳ công ty AI nào khác — sẽ đưa ra lựa chọn tương tự vào lần tới.

“Điều tiết nhịp độ giúp mua thêm thời gian, chứ không phải sự an toàn… Một chiến lược điều tiết hiệu quả không thể được ứng biến trong lúc khủng hoảng.”

Việc dựa vào các công ty để họ tự đưa ra quyết định đó là một hình thức quản trị bấp bênh, đặc biệt là trong một ngành mà, như Hobbhahn đã lưu ý, luôn có mọi động lực để tiếp tục tiến lên. Nick Moës, giám đốc điều hành của tổ chức phi lợi nhuận về an toàn và quản trị AI The Future Society, mô tả việc tự kiểm soát là vấn đề cấu trúc cốt lõi trong cách tiếp cận hiện tại đối với an toàn AI. Ông lập luận rằng các chính phủ nên có khả năng quyết định xem liệu OpenAI hay bất kỳ công ty nào khác có nên tạm dừng phát triển một công nghệ được coi là không an toàn hay không. “Đây là cách hầu hết các ngành công nghiệp vận hành,” ông nói, chỉ ra các lĩnh vực như dược phẩm, xây dựng, hàng không và thậm chí cả nhà hàng là những ngành có sự giám sát pháp lý chặt chẽ hơn AI.

Các biện pháp tự nguyện cũng có nguy cơ khiến ngành công nghiệp hội tụ về mẫu số chung thấp nhất. Nếu việc làm chậm lại gây ra chi phí, các công ty có động lực chỉ áp dụng các biện pháp mà đối thủ của họ cũng sẵn sàng chấp nhận. Áp lực đó trở nên đặc biệt gay gắt khi cuộc đua thắt chặt. Nếu OpenAI liên tục làm chậm quá trình phát triển trong khi các đối thủ cạnh tranh không làm như vậy, họ “sẽ đơn giản bị Anthropic thay thế,” Moës lập luận. “Để việc tạm dừng có tính bền vững, nó phải được thực hiện trên toàn ngành.”

Sự an toàn bền vững cần một thứ gì đó mạnh mẽ hơn là hành động tự nguyện. Moës cho biết sự giám sát của chính phủ có thể lấp đầy khoảng trống đó, giống như cách họ làm trong các ngành khác. Việc xác minh độc lập cũng có thể đóng một vai trò quan trọng. Chan cho biết việc đảm bảo các công ty thực sự thực hiện các biện pháp an toàn sẽ đặc biệt quan trọng khi các biện pháp giảm thiểu kỹ thuật như giám sát AI trở nên đắt đỏ hơn. Hobbhahn đồng tình: “Luôn khó để biết từ bên ngoài liệu một phòng thí nghiệm có chân thành về việc tạm dừng hay về an toàn nói chung hay không, vì vậy việc có thêm bằng chứng và một bên độc lập để xác thực tuyên bố đó là cực kỳ quan trọng.”

Ngay cả một sự tạm dừng minh bạch hoàn hảo cũng chỉ hữu ích nếu có điều gì đó thực sự xảy ra trong thời gian đó. “Điều tiết nhịp độ giúp mua thêm thời gian, chứ không phải sự an toàn,” Brianna Rosen, giám đốc nghiên cứu về an ninh tiên phong tại Viện Chính sách và Chiến lược AI, cho biết. Mục đích là tạo ra không gian thở cho các công ty và chính phủ để hiểu các rủi ro và phản ứng phù hợp. Điều này có nghĩa là phải quyết định trước những gì sẽ kích hoạt việc làm chậm lại — cũng như những gì xảy ra trong thời gian đó và các điều kiện cần thiết để kết thúc nó. “Một chiến lược điều tiết hiệu quả không thể được ứng biến trong lúc khủng hoảng,” bà nói.

Có khả năng việc làm chậm lại của OpenAI sẽ tạo tiền lệ cho ngành. Nhiều chuyên gia mà The Verge trao đổi hy vọng các công ty khác sẽ làm theo, dù là tự nguyện hay do các quy định chặt chẽ hơn buộc họ phải làm vậy. Nhưng trong một ngành công nghiệp vẫn chủ yếu tự kiểm soát, rất ít thứ có thể ngăn cản các đối thủ cạnh tranh — hoặc chính OpenAI — vượt qua tiền lệ đó ngay khi an toàn và tốc độ xung đột với nhau.

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.