Sam Altman: Tự điều tiết ngành là chìa khóa để đảm bảo an toàn cho AI

Cảm ơn bạn đọc của IT đã gửi tin!

Theo tin từ IT ngày 16 tháng 9, tại sự kiện của Salesforce diễn ra ở San Francisco vào ngày hôm qua (15 tháng 9), CEO của OpenAI, Sam Altman, cho rằng việc các công ty AI tự quản lý có thể kiểm soát được các rủi ro trong nghiên cứu và phát triển, đồng thời sẽ không gây ra tổn hại nghiêm trọng cho công chúng.

Dẫn nguồn từ Yahoo Finance, IT cho biết trong cuộc đối thoại với CEO của Salesforce, Marc Benioff vào ngày hôm qua, Altman bày tỏ niềm tin rằng các công ty AI có thể phát triển công nghệ AI một cách an toàn mà không gây ra tổn hại lớn cho cộng đồng, đồng thời tin tưởng vào khả năng tự nâng cao tiêu chuẩn an toàn của toàn ngành.

Altman gần đây nhấn mạnh rằng an toàn AI không thể chỉ dựa vào những cam kết bằng lời nói của doanh nghiệp, mà cần phải đồng bộ hóa việc nâng cao năng lực mô hình, sự căn chỉnh (alignment), tính bảo mật và an toàn. OpenAI cũng từng trì hoãn việc huấn luyện học tăng cường tiên tiến để chuyển một phần năng lực tính toán sang công tác giám sát, thiết lập các rào chắn an toàn và đánh giá rủi ro.

Altman cho rằng nghiên cứu và phát triển AI không phải là hoàn toàn không có rủi ro, nhưng thông qua sự hợp tác trong ngành, đánh giá độc lập và các quy trình an toàn nghiêm ngặt hơn, chúng ta có thể thiết lập một cơ chế đảm bảo an toàn hiệu quả ngay cả khi chưa có sự quản lý từ chính phủ, từ đó thúc đẩy nghiên cứu AI tiên tiến một cách an toàn và hiệu quả hơn.