Geoffrey Hinton cùng các chuyên gia yêu cầu OpenAI, Anthropic minh bạch hóa đánh giá AI độc lập

Theo tin từ IT ngày 18 tháng 9, tờ Business Insider đưa tin vào tối nay (18/9) rằng Diễn đàn các tổ chức đánh giá AI (AI Evaluation Institutions Forum), bao gồm nhiều tổ chức giám sát, đã công bố một bức thư ngỏ thiết lập các điều kiện tối thiểu cho việc đánh giá rủi ro bởi bên thứ ba. Họ cho rằng các phòng thí nghiệm AI như Anthropic và OpenAI chỉ có thể hợp tác hiệu quả với các đơn vị đánh giá bên ngoài khi đáp ứng được những yêu cầu cụ thể này.

Bức thư ngỏ đã nhận được sự đồng thuận và ký tên của hàng chục nhân vật trong lĩnh vực AI, bao gồm "cha đẻ AI", nhà tiên phong khoa học máy tính Geoffrey Hinton và Stuart Russell.

Tuần này, những lo ngại về rủi ro AI trên mạng đã nóng lên nhanh chóng. CEO của Anthropic, Dario Amodei, và CEO của OpenAI, Sam Altman, trước đó đều đã cam kết mở quyền truy cập vào các nguồn lực nội bộ cho các bên đánh giá thứ ba để thẩm định rủi ro AI, đồng thời cấp quyền truy cập thông tin ở mức độ tương đương với nhân viên của công ty.

Bức thư ngỏ của Diễn đàn các tổ chức đánh giá AI chính là phản hồi cho những cam kết này. "Để đảm bảo tính công tín, các bên đánh giá thứ ba tại chỗ phải duy trì tính khách quan khoa học, sự minh bạch và độc lập, đồng thời được bảo vệ đầy đủ khỏi sự can thiệp từ các doanh nghiệp được đánh giá."

IT được biết, diễn đàn cho rằng các bên đánh giá thứ ba không chỉ cần được phép làm việc một cách công khai, minh bạch mà còn phải có khả năng liên lạc trực tiếp với hội đồng quản trị của công ty và các cơ quan có thẩm quyền giám sát đặc biệt khác mà không bị doanh nghiệp sàng lọc hay hạn chế, đồng thời có quyền công bố kết quả đánh giá.

Những người đánh giá này cũng cần được bảo vệ để tránh bị các phòng thí nghiệm AI trả đũa do công việc đánh giá, đồng thời được cấp quyền truy cập vào các hệ thống, dữ liệu, công cụ và cơ sở vật chất tương đương với các nhân viên đánh giá nội bộ của doanh nghiệp.

Bức thư ngỏ cũng chủ trương rằng mỗi phòng thí nghiệm AI nên mời các chuyên gia đánh giá với quan điểm và nền tảng chuyên môn khác nhau để bao quát nhiều lĩnh vực rủi ro, từ rủi ro khoa học sinh học đến rủi ro AI mất kiểm soát.

Đầu tuần này, các nhà lãnh đạo khác trong ngành công nghệ cũng đã tham gia vào cuộc thảo luận. CEO của Microsoft, Satya Nadella, cho biết công ty hoan nghênh ý tưởng cho phép các bên đánh giá thứ ba trực tiếp vào các doanh nghiệp AI để thực hiện công tác thẩm định.