Tin ngành · Gary Marcus: The Road to AI We Can Trust
Khoảnh khắc đột phá: Khi giấc mơ về một AI 'tỉnh táo' trở thành hiện thực
Gary Marcus chia sẻ một trải nghiệm thực tế, qua đó gửi gắm kỳ vọng và suy ngẫm về lộ trình phát triển các hệ thống AI ổn định, đáng tin cậy và có tư duy logic.
Tóm tắt
Gary Marcus chia sẻ một trải nghiệm thực tế, qua đó gửi gắm kỳ vọng và suy ngẫm về lộ trình phát triển các hệ thống AI ổn định, đáng tin cậy và có tư duy logic.
Vì sao đáng chú ý
Góc nhìn từ chuyên gia hàng đầu trong ngành về tính an toàn và độ tin cậy của AI là chủ đề then chốt, thu hút sự quan tâm của giới công nghệ.
Nội dung dịch chi tiết
Hơn ba năm trước, tại Thượng viện Mỹ, Thượng nghị sĩ John Kennedy đã hỏi tôi về ba đề xuất quan trọng nhất cho luật AI. Đứng đầu danh sách của tôi là yêu cầu kiểm tra tiền kiểm (preflight checks) đối với các mô hình có tác động thương mại lớn, tương tự như quy trình đánh giá của FDA dành cho dược phẩm.
Hôm nay, một điều nằm ngoài dự đoán của tôi đã xảy ra: Tổng thống Trump đã ký một sắc lệnh hành pháp đi đúng theo hướng này. Dù tôi không khẳng định mình là nguyên nhân trực tiếp, nhưng thật sự rất phấn khích khi thấy giấc mơ này trở thành hiện thực.
Tôi hy vọng rằng bất kỳ sự giám sát nào như vậy cũng sẽ nhận được sự ủng hộ từ cả hai đảng, vì lợi ích của công dân Mỹ và vì lợi ích chung của toàn nhân loại.
Trong phần thảo luận, một số độc giả bày tỏ sự hoài nghi về việc liệu chính phủ Mỹ có thực sự hành động vì lợi ích công cộng hay không, dựa trên những tiền lệ trước đây.
Ngoài ra, có ý kiến cho rằng việc mô tả LLM là "dự đoán" từ tiếp theo là chưa chính xác. Thay vào đó, nên coi LLM là công cụ "phản chiếu" từ tiếp theo thông qua việc thống kê dữ liệu một cách máy móc, vì "dự đoán" là một quá trình tư duy chủ động mà con người khó có thể thực hiện.
Ý chính từ bài gốc
- Gary Marcus từng đề xuất kiểm định AI theo mô hình FDA trước Thượng viện Mỹ.
- Tổng thống Trump đã ký sắc lệnh hành pháp yêu cầu kiểm tra các mô hình AI có tác động thương mại lớn.
- Tác giả hy vọng sự giám sát này sẽ mang tính lưỡng đảng và vì lợi ích nhân loại.
- Có những ý kiến trái chiều về độ tin cậy của chính phủ trong việc quản lý AI.
- Một độc giả tranh luận rằng LLM nên được gọi là "phản chiếu" dữ liệu thay vì "dự đoán".
Bài viết được AI dịch và tổng hợp tự động từ Marcus on AI. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.