CEO Microsoft Satya Nadella: AI phải nằm dưới sự kiểm soát của con người

Theo tin từ IT ngày 15 tháng 9, vào tối ngày 14 tháng 9 theo giờ địa phương, CEO Satya Nadella của Microsoft đã đăng một bản ghi nhớ nội bộ trên bảng tin của công ty, chia sẻ quan điểm về việc liệu ngành công nghiệp AI có đang phát triển quá nhanh hay không.

Ông cho biết AI cần phải nằm dưới sự kiểm soát của con người, ủng hộ việc mở rộng thử nghiệm từ bên thứ ba, đồng thời cảnh báo rằng công ty phải dành thời gian để đảm bảo công nghệ được an toàn. "Khi rủi ro gia tăng, mọi người nên dành bao nhiêu thời gian cần thiết thì cứ dành bấy nhiêu." "Nếu không, dù thế nào đi nữa, bạn cũng sẽ mất giấy phép hoạt động."

Trước đó, một số nhà nghiên cứu AI đã cảnh báo vào tuần trước rằng công nghệ AI có thể gây nguy hiểm cho toàn nhân loại. Cuối tuần qua, CEO Dario Amodei của Anthropic đã đề xuất làm chậm quá trình phát triển AI và cho biết công ty sẽ cho phép bên ngoài giám sát tiến độ các mô hình của mình. CEO Sam Altman của OpenAI cũng đồng ý với việc giám sát từ bên thứ ba và ủng hộ việc làm chậm quá trình triển khai khi cần thiết để đảm bảo tính căn chỉnh (alignment) và an toàn.

Vào thứ Hai, Microsoft cũng đã công bố bản dự thảo dài 37 trang về quy tắc ứng xử cho mô hình AI "nhân văn". Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, viết: "Những điều mà chúng ta từng lo ngại về mặt lý thuyết trong thời gian dài, nay đã trở nên vô cùng thực tế."

Trong bản ghi nhớ, Nadella đã nêu ra ba lĩnh vực trọng tâm. Thứ nhất, xác định rõ mục tiêu thiết kế: AI phải nằm dưới sự kiểm soát của con người và mang lại lợi ích rộng rãi cho xã hội. Điều này có nghĩa là phải xây dựng một hệ sinh thái tiên phong, nơi cả các mô hình mã nguồn mở và mã nguồn đóng đều có thể phát triển mạnh mẽ, đồng thời thận trọng trong việc điều chỉnh nhịp độ khi thay đổi hướng đi.

Nadella ví nhịp độ này như quá trình nghiên cứu, phát triển và thử nghiệm trước khi ra mắt. Ông cho rằng việc có thêm nhiều thử nghiệm và người kiểm thử từ bên ngoài hoặc bên thứ ba là một điều tốt. Khi rủi ro gia tăng, hãy dành bao nhiêu thời gian cần thiết, nếu không, cuối cùng bạn sẽ mất giấy phép hoạt động.

Thứ hai, đối với khách hàng, điều then chốt là đảm bảo họ kiểm soát được kiến thức độc bản và kiến thức ẩn của chính mình, từ đó xây dựng vòng lặp học tập liên tục mà không phụ thuộc vào bất kỳ nhà cung cấp mô hình đơn lẻ nào. Foundry giúp các tác nhân thông minh (intelligent agents) vận hành lâu dài có được khả năng sẵn sàng cho doanh nghiệp, với các tính năng bảo mật, rào cản an toàn và FinOps được tích hợp sẵn.

Thứ ba, Microsoft phải đảm bảo người dân địa phương có thể thực sự cảm nhận được những lợi ích từ việc xây dựng cơ sở hạ tầng, để từ đó có được sự cho phép xây dựng các cơ sở hạ tầng liên quan. Nadella đã nhắc đến trung tâm dữ liệu Quincy như một ví dụ về sự phát triển bền vững cùng cộng đồng của công ty.

Nadella kết luận rằng đây là một bộ phương pháp xuyên suốt ba cấp độ: cách xây dựng ở cấp độ tiên phong, cách để khách hàng duy trì quyền kiểm soát và cách đảm bảo lợi ích kinh tế được lan tỏa rộng rãi đến cộng đồng và quốc gia. Ông khẳng định, với tư cách là một công ty, Microsoft có thể chứng minh bằng những hành động thực tế đằng sau những lời nói này.