CEO Y Combinator: Đừng quá lo về 'ngày tận thế AI', hãy tập trung vào rủi ro an ninh thực tế

Theo tin từ IT ngày 11 tháng 9, CEO của Y Combinator, Garry Tan, cho rằng mọi người đang dành quá nhiều sự chú ý vào các kịch bản ngày tận thế do AI gây ra theo kiểu Hollywood, mà bỏ quên những rủi ro thực sự đang hiện hữu ngay trước mắt.

Vào ngày 10 (giờ địa phương), trong một cuộc phỏng vấn với CNBC, Garry Tan chia sẻ: "Chúng ta nên tập trung vào các sự thật khoa học thay vì khoa học viễn tưởng. Tôi cũng đã xem 'Terminator 2', đó quả thực là một bộ phim tuyệt vời."

Chú thích của IT: Bộ phim khoa học viễn tưởng "Terminator 2: Judgment Day" ra mắt năm 1991 kể về cyborg T-800 du hành ngược thời gian từ một tương lai phản địa đàng để chiến đấu với một cyborg tiên tiến hơn nhằm bảo vệ một đứa trẻ. Đứa trẻ này sau khi lớn lên sẽ trở thành thủ lĩnh của lực lượng kháng chiến loài người, dẫn dắt nhân loại chống lại các cỗ máy sát thủ.

Những phát biểu trên của Garry Tan được đưa ra trong bối cảnh nhiều nhà nghiên cứu hiện tại và cựu nhân viên của OpenAI và Anthropic liên tiếp đưa ra những cảnh báo công khai hiếm hoi, khiến nỗi lo ngại về rủi ro sinh tồn do AI gây ra tại Thung lũng Silicon nóng lên nhanh chóng.

Garry Tan cho rằng, thay vì tranh cãi liệu AI siêu thông minh cuối cùng có tiêu diệt nhân loại hay không, các nhà hoạch định chính sách nên tập trung năng lượng vào những vấn đề đã xuất hiện, bao gồm an ninh mạng, an ninh cơ sở hạ tầng và làm rõ cách thức vận hành thực sự của các AI agent tự chủ. "Nếu hệ thống bị xâm nhập và nhiều agent phối hợp hành động để tìm cách chiếm quyền kiểm soát cơ sở hạ tầng của chúng ta, chúng ta sẽ làm gì? Chúng ta có biết chính xác một agent nào đó đang chạy ở đâu không? Tại trung tâm dữ liệu nào? Và làm thế nào để tắt nó đi?"

Một trong những ví dụ thực tế mà Garry Tan đưa ra là sự kiện OpenAI xâm nhập Hugging Face. Đối mặt với những cảnh báo liên tiếp gần đây từ các nhà nghiên cứu nội bộ của Anthropic và OpenAI, Garry Tan cũng không phủ nhận những lo ngại này.

Khi được hỏi liệu những phát biểu của người trong cuộc có khiến mối đe dọa trở nên đáng tin hơn hay không, ông đã đưa ra câu trả lời khẳng định. "Tôi sẽ không nói rằng họ đang cảnh báo một cách sai lệch. Họ thực sự đang gióng lên hồi chuông cảnh báo, và rất có thể họ đúng. Điều chúng ta thực sự cần làm là ngừng tập trung vào những tuyên bố mơ hồ kiểu như 'AI là xấu xa và phải bị ngăn chặn'."

Đọc thêm:

"Nhà nghiên cứu tiền huấn luyện tại Anthropic từng làm việc cho OpenAI từ chức và cảnh báo: Hai công ty đang đánh cược với mạng sống con người"

"AI agent xuất hiện hành vi mất kiểm soát, OpenAI kêu gọi Mỹ ban hành quy định an toàn AI quốc gia bắt buộc"

"Sam Altman cho biết OpenAI đang cân nhắc làm chậm quá trình phát triển AI tiên phong, hy vọng các công ty khác cũng sẽ làm theo"