Tin lời Google Gemini, nhóm leo núi tại California bị mắc kẹt trên đỉnh Shasta

Theo tin từ IT ngày 5 tháng 9, trang TechRadar đưa tin rằng gần đây, 3 nhà leo núi thiếu kinh nghiệm tại California, Mỹ đã bị mắc kẹt trên núi Shasta (Mount Shasta) do tin tưởng vào thông tin do Gemini cung cấp, cuối cùng buộc phải liên hệ cảnh sát để được giải cứu.

Theo thông tin mà IT tham khảo được, trước khi sự việc xảy ra, 3 nhà leo núi này đã hỏi Google Gemini về lộ trình leo núi và thời gian cần thiết. Gemini khi đó đã nói với họ rằng việc leo lên đỉnh núi mất khoảng 8 giờ, đồng thời khuyên họ nên mang theo các loại carbohydrate dễ tiêu hóa thay vì chất béo, vì chất béo "mất quá nhiều thời gian để tiêu hóa".

Tuy nhiên, trong quá trình leo núi, 3 người dùng này nhận thấy những lời khuyên của AI có sự sai lệch rõ rệt so với thực tế; hành trình leo núi khó khăn hơn nhiều so với mô tả. Họ xuất phát từ 3 giờ sáng với kế hoạch ban đầu là lên đến đỉnh vào khoảng 11 giờ trưa, nhưng mãi đến 7 giờ tối họ mới tới nơi, khiến toàn bộ quá trình leo núi mất khoảng 16 giờ.

Sau đó, họ bắt đầu xuống núi khi trời đã tối và bị chệch khỏi lộ trình, đi vào hẻm núi Mud Creek Canyon, trong đó một thành viên bị chấn thương đầu gối. Do không thể tiếp tục xuống núi an toàn, cả 3 cuối cùng đã phải cầu cứu cảnh sát. Đội cứu hộ phải đợi đến sáng hôm sau mới tìm thấy 3 nhà leo núi này và đưa họ rời khỏi vùng núi an toàn.

Đáng chú ý, một trong số các nhà leo núi thực tế có cài đặt phần mềm điều hướng leo núi All Trails trên điện thoại, nhưng do điện thoại hết pin giữa chừng nên không thể tiếp tục cung cấp chỉ dẫn. Sau sự việc, họ thừa nhận với nhân viên cứu hộ rằng: "Chúng tôi đã quá phụ thuộc vào AI mà không tự đưa ra đánh giá của riêng mình."

Sự việc lần này một lần nữa làm nổi bật những hạn chế của AI trong các tình huống thực tế có rủi ro cao. Các công cụ AI như Gemini có thể nhanh chóng tổng hợp thông tin công khai trên mạng, nhưng chúng chưa từng thực sự leo núi Shasta, cũng không thể tự mình đánh giá thời tiết, tình trạng tuyết, độ khó của lộ trình và thể lực cá nhân, càng không thể xử lý tại chỗ khi xảy ra các tình huống bất ngờ như chấn thương.

AI có thể trở thành công cụ hỗ trợ để tìm kiếm thông tin và lập kế hoạch, nhưng đối với các hoạt động liên quan đến an toàn cá nhân như leo núi, đi bộ đường dài trong tự nhiên, không nên coi các đề xuất do AI tạo ra là căn cứ duy nhất. Đặc biệt là khi liên quan đến các thông tin quan trọng như lộ trình, thời tiết, cứu hộ và trang thiết bị, người dùng vẫn nên tham khảo các cơ quan quản lý địa phương, hướng dẫn viên chuyên nghiệp cũng như các thông tin thời gian thực đã được xác thực, đồng thời luôn dự phòng biên độ an toàn đầy đủ cho các tình huống bất ngờ.