Zuckerberg: Đảm bảo an toàn AI cần đánh giá độc lập, không phải kìm hãm phát triển

Theo tin từ IT ngày 16 tháng 9, CEO Mark Zuckerberg của Meta hôm nay đã đăng bài trên nền tảng X, chia sẻ quan điểm về những lời kêu gọi trong ngành yêu cầu làm chậm quá trình phát triển AI.

Zuckerberg cho rằng, thực tế là người dùng sẽ không bao giờ muốn sử dụng những tác nhân (agent) không phù hợp với giá trị của bản thân và không thể thực hiện nhiệm vụ theo chỉ dẫn. Do đó, các phòng thí nghiệm AI lớn vốn dĩ đã có động lực nội tại cực kỳ mạnh mẽ để nâng cao mức độ căn chỉnh (alignment) cho các mô hình của mình.

Ghi chú của IT: Mức độ căn chỉnh của mô hình là mức độ mà kết quả đầu ra của mô hình trí tuệ nhân tạo phù hợp với ý định, giá trị, chuẩn mực đạo đức của con người và các sự thật trong thế giới thực.

Hiện nay, trong ngành đang tồn tại nhiều tranh luận về việc "liệu có nên làm chậm quá trình lặp lại khả năng của mô hình cho đến khi công nghệ căn chỉnh bắt kịp hay không".

Theo quan điểm của tôi, niềm tin và sự căn chỉnh đang nhanh chóng trở thành năng lực cạnh tranh cốt lõi tạo nên sự khác biệt giữa các tác nhân và mô hình. Bất kỳ phòng thí nghiệm nào phớt lờ công nghệ căn chỉnh chắc chắn sẽ bị đào thải.

Nếu mô hình gây ra tác hại, các phòng thí nghiệm sẽ phải chịu trách nhiệm pháp lý nghiêm trọng, vì vậy họ cũng có động lực rất lớn để phòng ngừa rủi ro từ trước.

Theo chia sẻ của ông, Meta trước đó đã trì hoãn việc ra mắt Muse trong vài tháng, chính là để đảm bảo tối đa tính an toàn chức năng và bảo mật hệ thống. Zuckerberg cho biết Meta không hề kêu gọi toàn ngành làm theo trước khi bản thân thực hiện, mà chỉ đơn giản là tích hợp điều đó vào công việc nghiên cứu và phát triển hàng ngày.

Việc đưa vào các cơ quan đánh giá và cố vấn độc lập bên ngoài là thông lệ tốt nhất của ngành. Hiện nay, MSL (Meta Super Intelligence Lab) đã thực hiện phương pháp này trong nhiều lĩnh vực kinh doanh và đạt được hiệu quả rõ rệt. Các phòng thí nghiệm khác hoàn toàn có thể làm được điều tương tự. Nhìn chung, việc xây dựng một hệ sinh thái đánh giá lớn hơn và đa dạng hơn sẽ có lợi cho toàn ngành.

So với việc chạy đua mù quáng vào khả năng tự cải thiện đệ quy, việc dành phần lớn sức mạnh tính toán để phục vụ công chúng là một trong những cách tốt nhất để đảm bảo chúng ta phát triển công nghệ này một cách an toàn. Meta đã đưa ra cam kết này và các phòng thí nghiệm khác hoàn toàn có thể làm theo.

Đọc thêm:

"Tỷ phú giàu nhất thế giới Elon Musk bàn về an toàn AI: Ủng hộ kiểm thử chéo, để đối thủ 'vạch lá tìm sâu'"

"Sam Altman của OpenAI cho rằng sự tự giác của ngành AI có thể giữ vững ranh giới an toàn"

"Jensen Huang của Nvidia: Ngành AI không cần luật mới, có thể đạt được cả tốc độ và sự an toàn trong phát triển"

"'Bộ ba quyền lực' bắt tay: OpenAI, Anthropic và Google Deepmind bắt đầu hợp tác nghiên cứu các biện pháp an toàn AI"

"CEO CrowdStrike phản đối việc làm chậm phát triển AI tiên tiến, cho rằng chiếc hộp Pandora đã mở"

"'Nhà tiên tri' Michael Burry bàn về việc các ông lớn công nghệ kêu gọi làm chậm phát triển AI: Nói thẳng ra là vì lợi ích của chính họ"

"Ngành công nghiệp kêu gọi kiểm soát nhịp độ R&D AI: Nhà đầu tư lo ngại chi tiêu vốn hạ nhiệt, nhóm cổ phiếu bán dẫn chịu áp lực"