Chủ tịch Microsoft Brad Smith ủng hộ đánh giá AI độc lập và cơ chế 'công tắc ngắt' khẩn cấp

IT ngày 24 tháng 9 đưa tin, Chủ tịch Microsoft Brad Smith đã bày tỏ sự ủng hộ đối với việc đưa các đơn vị đánh giá độc lập vào để thực hiện kiểm định an toàn cho AI.

Tại Đại hội đồng Liên Hợp Quốc đang diễn ra ở New York, an toàn AI và cách thức quản lý ngành công nghiệp AI trên phạm vi toàn cầu là những vấn đề trọng tâm được các nhà lãnh đạo quốc gia và giám đốc điều hành doanh nghiệp thảo luận. Trong cuộc phỏng vấn với Bloomberg vào ngày 23 theo giờ địa phương, ông Smith cho rằng nếu an toàn AI chỉ do một hoặc hai tổ chức chịu trách nhiệm thì sẽ rất khó đạt được tiến bộ. "Các công ty phát triển mô hình tất nhiên là rất quan trọng, nhưng những công ty cung cấp lớp phần mềm, chịu trách nhiệm kiểm soát các AI agent và giám sát hành vi của chúng như Microsoft cũng quan trọng không kém."

▲ Nguồn ảnh: Trang web chính thức của Microsoft

Ông Smith cho biết, Microsoft và đối tác thân thiết OpenAI có một ủy ban an toàn bao gồm nhân sự từ cả hai bên. Thông qua ủy ban này, Microsoft tham gia vào các cuộc thảo luận về an toàn AI của hai bên và hỗ trợ đánh giá thời điểm mô hình đạt đến mức độ an toàn có thể phát hành.

IT được biết từ báo cáo rằng, ông cũng đề cập đến việc Microsoft ủng hộ việc thiết lập "công tắc ngắt" (kill switch) cho các hệ thống tiên tiến để đảm bảo hệ thống luôn nằm dưới sự kiểm soát của con người. "Các cơ chế an toàn thực sự cần được triển khai ở nhiều cấp độ. Đôi khi, bạn có thể muốn chính phủ cũng nắm giữ công tắc, nhưng vì có thể đặt công tắc ở ba hoặc bốn nơi, tại sao lại chỉ đặt ở một nơi duy nhất?"

Ông Smith cũng thừa nhận rằng Microsoft cần điều chỉnh các mục tiêu khí hậu của mình. Theo cam kết trước đó của Microsoft, đến năm 2030, lượng carbon loại bỏ khỏi khí quyển sẽ vượt quá lượng phát thải của chính công ty. Tuy nhiên, báo cáo chỉ ra rằng lộ trình cho mục tiêu này dường như ngày càng khó thực hiện, một phần là do Microsoft sử dụng các nhà máy điện khí có thể vận hành nhanh để cung cấp năng lượng cho các trung tâm dữ liệu AI.

Ông Smith thẳng thắn chia sẻ: "Chúng tôi vẫn tin rằng khí hậu là một trong những vấn đề quan trọng nhất của thế kỷ này, nhưng hiện tại chúng tôi phải tự hỏi rằng liệu có thể đạt được những mục tiêu này theo cách đã hình dung từ sáu năm trước hay không? Tôi nghĩ chúng tôi nhận thấy rằng, cần phải thực hiện một số điều chỉnh."