Nghiên cứu · Gary Marcus: The Road to AI We Can Trust
Giáo hoàng dường như hiểu về AI hơn cả Geoffrey Hinton
Bài viết nhấn mạnh rằng việc chỉ phân tích kết quả đầu ra của AI là không đủ để hiểu rõ logic suy luận bên trong, qua đó làm nổi bật thách thức cốt lõi trong nghiên cứu khả năng giải thích của AI hiện
Tóm tắt
Bài viết nhấn mạnh rằng việc chỉ phân tích kết quả đầu ra của AI là không đủ để hiểu rõ logic suy luận bên trong, qua đó làm nổi bật thách thức cốt lõi trong nghiên cứu khả năng giải thích của AI hiện nay.
Vì sao đáng chú ý
Góc nhìn độc đáo từ Gary Marcus về giới hạn của AI, kết hợp giữa triết học và kỹ thuật, rất đáng suy ngẫm cho những người quan tâm đến tương lai của AI.
Nội dung dịch chi tiết
Gary Marcus cho rằng Giáo hoàng hiểu về AI thấu đáo hơn Geoffrey Hinton. Vấn đề cốt lõi là việc một thực thể nói ra điều gì không phản ánh cách thức chúng tạo ra những lời nói đó. Các kết quả từ mô hình như Claude chỉ là sản phẩm của sự bắt chước, thay vì là báo cáo về trạng thái nội tại thực sự. Ý thức đòi hỏi các trạng thái nội tại, trong khi sự bắt chước, dù tinh vi đến đâu, cũng không chứng minh được điều gì.
Sai lầm của những nhân vật cấp cao như Hinton hay Richard Dawkins là tin rằng vì các mô hình ngôn ngữ lớn (LLM) nói chuyện giống con người, nên chúng phải giống con người. Đây là một suy luận sai lầm. Chúng ta không thể chỉ nhìn vào kết quả đầu ra mà không xem xét cơ chế bên dưới để kết luận rằng hai thực thể có kết quả tương tự thì đạt được chúng bằng phương thức tương tự.
Sự khác biệt giữa hai bên là rất lớn: một bên (LLM) ghi nhớ toàn bộ internet, trong khi bên kia (con người) xây dựng mô hình tinh thần thông qua trải nghiệm thực tế. Giáo hoàng Leo XIV đã tóm tắt điều này một cách súc tích: "Sự hiểu biết thực sự đến từ trải nghiệm, không phải từ việc xấp xỉ văn bản".
Các nhà nghiên cứu LLM không tạo ra các thực thể có ý thức. Họ đang tạo ra những tác phẩm hư cấu tương tác được huấn luyện để dự đoán ngôn ngữ của con người thực sự. Hinton nên nhận thức rõ điều này thay vì rơi vào "ảo tưởng Eliza", nơi con người dễ dàng bị đánh lừa bởi những gì họ thấy trên bề mặt mà không hiểu bản chất kỹ thuật bên trong.
Ý chính từ bài gốc
- Việc AI mô phỏng hành vi con người không đồng nghĩa với việc chúng có ý thức hay hiểu biết thực sự.
- Các mô hình ngôn ngữ lớn (LLM) hoạt động dựa trên sự bắt chước thống kê, không phải dựa trên trạng thái nội tại.
- Sự hiểu biết thực sự đòi hỏi trải nghiệm thế giới thực, điều mà các thuật toán hiện nay không có.
- Việc nhầm lẫn giữa kết quả đầu ra và cơ chế tư duy là một sai lầm nghiêm trọng trong đánh giá AI.
Bài viết được AI dịch và tổng hợp tự động từ Marcus on AI. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.