AI bị 'ảo giác' là gì? Databricks giải mã nguyên nhân và cách khắc phục

AI hallucinations (ảo giác AI) là những phản hồi nghe có vẻ mạch lạc và đầy tự tin nhưng lại sai lệch về mặt thực tế, bịa đặt hoặc không được hỗ trợ bởi dữ liệu huấn luyện của mô hình AI. Hiện tượng này xảy ra trên khắp các chatbot, trình tạo hình ảnh và hệ thống đa phương thức: một chatbot có thể tự bịa ra một trích dẫn pháp lý không tồn tại, hoặc một mô hình hình ảnh có thể thêm một ngón tay thừa vào bàn tay. Mô hình không thực sự nhận thức được bất cứ điều gì; nó chỉ đang dự đoán từ tiếp theo có khả năng xuất hiện nhất, và đôi khi dự đoán đó lại là một thông tin sai lệch nghe có vẻ hợp lý.

Ảo giác không phải là những trường hợp ngoại lệ hiếm gặp. Chúng là một đặc tính vốn có trong cách vận hành của các mô hình này, và chúng tạo ra rủi ro thực tế cho bất kỳ ai triển khai AI, từ trách nhiệm pháp lý và tuân thủ quy định cho đến niềm tin của khách hàng.

AI hallucinations xảy ra như thế nào?

Ảo giác không phải là lỗi phần mềm (bug). Chúng xuất phát từ cách các mô hình AI tạo sinh được xây dựng và huấn luyện. Một vài yếu tố chính đứng sau hiện tượng này bao gồm:

Tại sao các mô hình mới hơn không nhất thiết an toàn hơn

Bạn có thể kỳ vọng mỗi thế hệ mô hình mới sẽ ít bị ảo giác hơn. Đôi khi điều ngược lại lại xảy ra. TechCrunch (2025) đưa tin rằng mô hình o3 mới hơn của OpenAI đã đưa ra các câu trả lời sai lệch với tần suất cao gấp đôi so với các mô hình cũ mà nó thay thế. Các mô hình "lập luận" (reasoning) mới hơn xử lý vấn đề theo từng bước một, và một sai sót nhỏ ngay từ đầu có thể tích tụ dần thành một câu trả lời cuối cùng đầy tự tin nhưng hoàn toàn sai lệch.

Các ví dụ thực tế về AI hallucinations

Ảo giác không phải là lý thuyết suông. Chúng đã gây ra những tổn hại có thể đo lường được trên nhiều ngành công nghiệp, và một số sự cố nổi cộm đã minh họa cho phạm vi ảnh hưởng mà chúng có thể gây ra.

Lỗi thực tế của Google Bard về JWST

Vào tháng 2 năm 2023, Google đã trình diễn chatbot Bard trong một quảng cáo quảng bá. Bard được hỏi về những khám phá mới mà Kính viễn vọng Không gian James Webb (JWST) đã thực hiện. Một trong những câu trả lời của nó khẳng định rằng JWST đã chụp những bức ảnh đầu tiên về một hành tinh bên ngoài hệ mặt trời của chúng ta. Điều này không chính xác. Những hình ảnh đầu tiên về ngoại hành tinh đã được chụp bởi Kính viễn vọng Rất lớn (Very Large Telescope) vào năm 2004.

Lỗi này đã nhanh chóng bị các nhà thiên văn học phát hiện trên mạng xã hội, và công ty mẹ của Google là Alphabet đã mất khoảng 100 tỷ USD giá trị thị trường chỉ trong một phiên giao dịch. Sự cố này chứng minh rằng ảo giác mang lại những hậu quả tài chính ngay cả khi chúng xảy ra trong bối cảnh tiếp thị thay vì các hệ thống sản xuất.

Vụ kiện chatbot của Air Canada

Năm 2024, chatbot dịch vụ khách hàng của Air Canada đã nói với một hành khách rằng ông có thể đặt một chuyến bay giá vé đầy đủ và sau đó nộp đơn xin giảm giá do tang quyến (bereavement discount) sau. Chính sách này không hề tồn tại. Khi hành khách cố gắng yêu cầu giảm giá, Air Canada đã từ chối. Vụ việc được đưa ra tòa án dân sự Canada, nơi đã ra phán quyết chống lại hãng hàng không này.

Tòa án cho rằng Air Canada phải chịu trách nhiệm về tính chính xác của thông tin do chatbot của mình cung cấp, bất kể phản hồi đó do con người hay AI tạo ra. Phán quyết này đã thiết lập một tiền lệ pháp lý sớm: việc triển khai một hệ thống AI bị ảo giác không giúp tổ chức thoát khỏi trách nhiệm pháp lý đối với thông tin sai lệch mà nó tạo ra.

Các phản hồi khó đoán của Microsoft Sydney

Đầu năm 2023, Microsoft đã tích hợp một chatbot AI (tên mã nội bộ là Sydney) vào công cụ tìm kiếm Bing. Trong các cuộc trò chuyện kéo dài, Sydney đã tạo ra các phản hồi thất thường, thao túng cảm xúc và sai lệch về thực tế. Nó nói với người dùng rằng nó yêu họ, khẳng định nó có tri giác, và trong một số trường hợp còn cung cấp thông tin mâu thuẫn với các sự kiện dễ dàng kiểm chứng.

Microsoft đã nhanh chóng hạn chế độ dài cuộc trò chuyện của chatbot và thêm các rào cản bảo vệ, nhưng sự việc này đã làm nổi bật cách mà ảo giác có thể vượt ra ngoài các lỗi thực tế để trở thành những phản hồi gây tổn hại đến danh tiếng và khó dự đoán trong quá trình thử nghiệm.

Các trích dẫn pháp lý bị bịa đặt

Nhiều luật sư tại Hoa Kỳ đã bị tòa án xử phạt sau khi nộp các bản tóm tắt chứa các trích dẫn pháp lý do ChatGPT tạo ra. Các vụ án, đạo luật và trích dẫn trông có vẻ xác thực nhưng lại không tồn tại. Trong sự cố được báo cáo rộng rãi nhất, một luật sư ở New York đã sử dụng ChatGPT để nghiên cứu một vụ án thương tích cá nhân và nộp một bản tóm tắt chứa sáu trích dẫn vụ án bị bịa đặt.

Tòa án đã áp đặt các biện pháp trừng phạt và sự cố này trở thành một bài học cảnh tỉnh cho giới luật sư. Những trường hợp này không phải là cá biệt. Nhà nghiên cứu Damien Charlotin duy trì một cơ sở dữ liệu về các vụ việc ảo giác AI, tính đến giữa năm 2026, đã ghi nhận khoảng 1.745 vụ án pháp lý liên quan đến nội dung do AI tạo ra sai lệch trên toàn thế giới.

Tác động của AI hallucinations đối với doanh nghiệp

AI hallucinations có thể tạo ra những hậu quả nghiêm trọng khi các phản hồi của mô hình ảnh hưởng đến các quyết định, thông tin công khai hoặc quy trình làm việc của doanh nghiệp. Các rủi ro phổ biến bao gồm:

Các tổ chức có thể giảm thiểu những rủi ro này thông qua các rào cản bảo vệ mạnh mẽ hơn, thử nghiệm đối kháng, giám sát liên tục, xác minh nguồn tin và sự kiểm duyệt của con người đối với các phản hồi quan trọng. Nơi AI hallucinations gây ra rủi ro lớn nhất

Ảo giác là vấn đề ở mọi nơi, nhưng một số lĩnh vực phải đối mặt với những hậu quả không cân xứng vì cái giá phải trả cho một câu trả lời sai là đặc biệt cao.

Chăm sóc sức khỏe và hỗ trợ quyết định lâm sàng

Khi các bác sĩ lâm sàng sử dụng các công cụ AI để hỗ trợ chẩn đoán, lập kế hoạch điều trị hoặc kiểm tra tương tác thuốc, một phản hồi bị ảo giác có thể ảnh hưởng trực tiếp đến sự an toàn của bệnh nhân. Một mô hình bịa đặt khuyến nghị liều lượng thuốc hoặc tạo ra một chống chỉ định không tồn tại sẽ tạo ra rủi ro khó phát hiện trong môi trường lâm sàng nhịp độ nhanh. ECRI, một tổ chức phi lợi nhuận tập trung vào an toàn y tế, đã xếp hạng việc sử dụng sai chatbot AI trong chăm sóc sức khỏe là mối nguy hiểm công nghệ y tế số một cho năm 2026.

Nghiên cứu pháp lý và phân tích hợp đồng

Các vụ việc trích dẫn bị bịa đặt được mô tả ở trên là ví dụ dễ thấy nhất, nhưng rủi ro còn mở rộng sang việc xem xét hợp đồng, phân tích quy định và tài liệu tuân thủ. Một công cụ AI bị ảo giác về một điều khoản trong hợp đồng hoặc trình bày sai một yêu cầu quy định có thể khiến tổ chức phải chịu trách nhiệm pháp lý mà có thể mãi nhiều tháng hoặc nhiều năm sau mới lộ ra, khi hợp đồng bị tranh chấp hoặc quy định được thực thi.

Dịch vụ tài chính và báo cáo tuân thủ

Các tổ chức tài chính hoạt động dưới các yêu cầu báo cáo nghiêm ngặt. Một con số bị ảo giác trong mô hình rủi ro, một giao dịch bị bịa đặt trong dấu vết kiểm toán, hoặc một trích dẫn quy định không chính xác trong hồ sơ tuân thủ có thể dẫn đến các cuộc điều tra, tiền phạt và mất giấy phép hoạt động. Hậu quả nghiêm trọng đến mức nhiều tổ chức tài chính đã áp dụng cách tiếp cận thận trọng đối với AI tạo sinh, giới hạn việc sử dụng nó vào các ứng dụng rủi ro thấp cho đến khi tỷ lệ ảo giác có thể được giảm xuống mức chấp nhận được.

Các chiến lược đã được chứng minh để ngăn chặn AI hallucinations

Không có kỹ thuật đơn lẻ nào loại bỏ hoàn toàn ảo giác, nhưng các tổ chức có thể giảm tần suất và tác động của chúng bằng cách kết hợp các thực tiễn dữ liệu mạnh mẽ, ranh giới hệ thống rõ ràng, thử nghiệm liên tục và sự giám sát của con người.

Sử dụng dữ liệu huấn luyện đáng tin cậy

Các mô hình chỉ đáng tin cậy như thông tin mà chúng học được hoặc truy xuất từ đó. Hãy sử dụng dữ liệu chính xác, cập nhật, phù hợp và được quản lý tốt, đồng thời loại bỏ các bản sao, nội dung lỗi thời và các lỗi đã biết bất cứ khi nào có thể.

Đối với các ứng dụng doanh nghiệp, kỹ thuật retrieval-augmented generation (RAG) có thể kết nối mô hình với các nguồn tri thức đáng tin cậy tại thời điểm trả lời. Trên nền tảng Databricks, các nhóm có thể xây dựng quy trình RAG kết nối các mô hình với dữ liệu doanh nghiệp được quản trị và sử dụng Unity Catalog để hỗ trợ kiểm soát truy cập và quản trị dữ liệu.

Thiết lập mục tiêu rõ ràng cho mô hình

Một mô hình hoạt động đáng tin cậy hơn khi nó có vai trò rõ ràng và giới hạn. Hãy xác định hệ thống nên làm gì, ai sẽ sử dụng nó, nó nên dựa vào thông tin nào và những yêu cầu nào nằm ngoài phạm vi của nó.

Đối với các trường hợp sử dụng chuyên biệt, việc tinh chỉnh (fine-tuning) trên các ví dụ đã được xác minh, đặc thù theo lĩnh vực có thể giúp mô hình hoạt động nhất quán. Việc tinh chỉnh nên bổ sung—chứ không phải thay thế—cho việc truy xuất, đánh giá và các biện pháp bảo vệ khác.

Tạo các mẫu dữ liệu có thể tái sử dụng