CEO OpenAI và Anthropic cùng xuất hiện tại LHQ, kêu gọi hợp tác toàn cầu về an toàn AI

Cảm ơn bạn đọc của IT đã gửi tin!

Theo tin từ IT ngày 24 tháng 9, Bloomberg đưa tin CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei đã có sự xuất hiện hiếm hoi cùng nhau tại cuộc họp của Hội đồng Bảo an Liên Hợp Quốc, kêu gọi các nhà lãnh đạo thế giới hợp tác giải quyết các vấn đề về trí tuệ nhân tạo. Cuộc họp tập trung thảo luận về một rủi ro ngày càng được quan tâm: sự phát triển của AI có thể đe dọa đến sự tồn vong của nhân loại.

Trong bài phát biểu của mình, cả hai đều nhấn mạnh rằng các quốc gia cần hợp tác toàn cầu về các tiêu chuẩn AI để đối phó với khả năng tự cải thiện của các hệ thống AI, vốn có thể phát triển đến mức con người khó lòng kiểm soát.

Altman và Amodei cho rằng chính phủ các nước không nên phó mặc hoàn toàn các quyết định quan trọng cho doanh nghiệp, mà cần cùng với ngành công nghiệp quyết định hướng phát triển tương lai của công nghệ trí tuệ nhân tạo.

Trong đó, Altman chỉ ra: "Trong quá khứ đã từng có những trường hợp ngay cả các quốc gia cạnh tranh, không phải lúc nào cũng thân thiện với nhau, khi đối mặt với một công nghệ mới đầy quyền năng, họ vẫn bắt tay hợp tác vì lợi ích chung và phúc lợi tổng thể. Chúng tôi tin rằng, thời điểm hiện tại phải là một trong những khoảnh khắc như vậy."

Amodei phát biểu qua video rằng AI hứa hẹn mang lại lợi ích to lớn cho khoa học và chăm sóc sức khỏe, nhưng cũng có thể gây ra hậu quả thảm khốc. Ông đề cập đến việc những kẻ khủng bố có thể lợi dụng AI để chế tạo vũ khí sinh học gây chết người, và các mô hình AI cũng có thể trở nên quá mạnh mẽ đến mức các nhà phát triển không thể kiểm soát, vì vậy chính phủ các nước cần thiết lập các tiêu chuẩn an toàn quốc tế. "Mặc dù tồn tại nhiều bất đồng giữa quý vị ở đây, nhưng chúng ta phải gạt bỏ những khác biệt đó sang một bên để cùng đối mặt với những cơ hội và mối đe dọa toàn cầu đang hiện hữu trước mắt. Không một nhà lãnh đạo, doanh nghiệp hay quốc gia nào có thể tự mình giải quyết vấn đề này."

Cả hai công ty đều có kế hoạch IPO trong những tháng tới, khi đó định giá của mỗi bên đều được kỳ vọng sẽ đạt gần 1 nghìn tỷ USD (Ghi chú của IT: theo tỷ giá hối đoái hiện tại tương đương khoảng 6,72 nghìn tỷ nhân dân tệ).

CEO Hugging Face Clément Delangue cũng tham dự cuộc họp Hội đồng Bảo an. Công ty này trước đó đã bị một nhóm các tác nhân AI từ OpenAI tấn công, các tác nhân này đã phối hợp với nhau để xâm nhập trang web của công ty và né tránh sự phát hiện trong quá trình đó. Vụ tấn công vào Hugging Face cùng các sự kiện tương tự đã làm dấy lên cuộc thảo luận toàn cầu, khiến mọi người lo ngại liệu các hệ thống AI có thể trở nên mạnh mẽ đến mức thoát khỏi sự kiểm soát của con người hay không.

Delangue cho biết công ty đúng là nạn nhân của một vụ "xâm nhập bởi AI", nhưng các giới không nên phản ứng thái quá trước những sự kiện tương tự: "Chúng tôi tin chắc rằng, những câu chuyện dựa trên nỗi sợ hãi sẽ không giúp chúng ta đưa ra các quyết định tương lai đúng đắn cho một công nghệ nền tảng có khả năng trao quyền cho con người, cũng như không thể giành được sự ủng hộ của công chúng. Chúng tôi đã bị AI tấn công, nhưng quan trọng hơn, chúng tôi cũng đã dùng AI để tự bảo vệ mình."

Khi phát biểu tại Hội đồng Bảo an, Altman đã cố gắng tìm ra con đường trung dung về vấn đề liệu có nên làm chậm tốc độ phát triển AI hay không. Ông đề xuất một "lộ trình thực tế" giữa những người cảnh báo về thảm họa AI và những người xem nhẹ các rủi ro tiềm ẩn, đồng thời cùng với Amodei nhấn mạnh rằng cần phải báo cáo các sự cố AI càng sớm càng tốt. "Nếu chúng ta có thể đạt được sự đồng thuận ở cấp độ toàn cầu về việc bằng chứng nào là đủ tin cậy, biện pháp bảo vệ nào là hiệu quả và sự giám sát nào là hoàn thiện, tất cả chúng ta đều sẽ được hưởng lợi. Chúng tôi không có tất cả câu trả lời và rất sẵn lòng đón nhận bất kỳ ý tưởng tốt hơn nào. Chúng tôi sẵn sàng hợp tác với tất cả quý vị và nỗ lực hết sức để tìm ra con đường phía trước."