Từ điển AI #11: Hallucination (Ảo giác AI) là gì? Khi máy móc “nói dối” một cách tự tin

Hallucination (Ảo giác AI) là hiện tượng khi một mô hình AI tạo ra thông tin sai lệch, bịa đặt hoặc không có thật, nhưng trình bày nó với giọng điệu tự tin và mạch lạc như thể đó là sự thật đã được kiểm chứng.

Ở bài viết trước, chúng ta đã thấy multimodal AI có thể khiến hậu quả của ảo giác trở nên nghiêm trọng hơn khi sai sót lan truyền qua nhiều phương thức dữ liệu. Đã đến lúc dành hẳn một bài viết để mổ xẻ tận gốc thuật ngữ quan trọng bậc nhất khi nói về rủi ro của AI.

Hallucination xảy ra thường xuyên đến mức nào trong thực tế?

Đây không còn là câu hỏi mang tính lý thuyết — nó có thể đo lường được. Vectara Hallucination Leaderboard, một bảng xếp hạng độc lập đánh giá tỷ lệ ảo giác của các LLM khi tóm tắt tài liệu ngắn dựa trên hơn 7.700 bài viết thuộc nhiều lĩnh vực (luật, y tế, tài chính, giáo dục, công nghệ), cho thấy tỷ lệ ảo giác dao động từ 1,8% đến 24,2% tùy mô hình — chỉ một số ít mô hình tốt nhất đạt tỷ lệ dưới 5%. Ngay cả mô hình dẫn đầu bảng xếp hạng cũng không đạt được 0% tuyệt đối. Nói cách khác, ảo giác không phải là một lỗi hiếm gặp có thể bỏ qua, mà là một đặc tính cố hữu cần được quản trị chủ động trong bất kỳ quy trình nào có sử dụng AI.

Hậu quả thực tế của ảo giác AI trong kinh doanh nghiêm trọng đến đâu?

Vụ việc Air Canada là một minh chứng đắt giá đã được ghi nhận rộng rãi. Tháng 11/2022, một hành khách tên Jake Moffatt hỏi chatbot của Air Canada về chính sách giá vé tang lễ (bereavement fare), và chatbot trả lời sai rằng anh có thể xin hoàn tiền theo chính sách này trong vòng 90 ngày sau khi đã mua vé — thông tin hoàn toàn bịa đặt so với chính sách thực tế của hãng. Khi Air Canada từ chối hoàn tiền, vụ việc được đưa ra tòa án dân sự Canada, và ngày 14/2/2024, tòa án ra phán quyết buộc Air Canada phải bồi thường 812,02 CAD, bác bỏ lập luận của hãng rằng “chatbot là một thực thể pháp lý riêng biệt chịu trách nhiệm cho thông tin của chính nó.” Tòa khẳng định chatbot chỉ là một phần của website công ty, và công ty phải chịu trách nhiệm cho mọi thông tin xuất hiện trên đó — dù thông tin ấy do một con người hay một AI tạo ra. Đây là một tiền lệ pháp lý quan trọng: doanh nghiệp không thể “đổ lỗi” cho AI khi nó mắc lỗi.

Vụ việc pháp lý nào khác cho thấy ảo giác không chỉ là chuyện xấu hổ mà còn có thể phải ra tòa?

Trước cả vụ Air Canada, một vụ việc gây chấn động giới luật sư Mỹ đã xảy ra: trong vụ Mata v. Avianca, Inc. năm 2023, một luật sư đã dùng ChatGPT để soạn hồ sơ tố tụng và trích dẫn sáu án lệ để làm căn cứ pháp lý — nhưng cả sáu án lệ này đều hoàn toàn không tồn tại, do ChatGPT bịa ra một cách chi tiết và thuyết phục đến mức luật sư không phát hiện ra trước khi nộp hồ sơ lên tòa án liên bang. Khi phía đối phương không thể tìm thấy các án lệ được trích dẫn, sự việc vỡ lở, và vị luật sư phải đối mặt với các chế tài kỷ luật từ tòa án. Vụ việc này thường được xem là một trong những cảnh báo sớm và rõ ràng nhất về rủi ro dùng AI cho các công việc đòi hỏi độ chính xác dữ kiện tuyệt đối mà không kiểm chứng lại.

Tỷ lệ ảo giác có giống nhau giữa các loại tác vụ khác nhau không?

Không hề. Dữ liệu từ Vectara cho thấy tỷ lệ ảo giác thay đổi đáng kể tùy thuộc vào việc AI đang thực hiện tác vụ gì. Với các tác vụ “có mỏ neo” — tức khi AI được cung cấp sẵn tài liệu nguồn để tóm tắt hoặc trả lời dựa trên đó — tỷ lệ ảo giác thấp hơn hẳn so với khi AI phải tự do tạo sinh nội dung hoặc trả lời từ trí nhớ đã huấn luyện mà không có tài liệu tham chiếu nào. Đây chính là insight quan trọng nhất lý giải vì sao kỹ thuật RAG ở bài tiếp theo lại hiệu quả: bằng cách buộc AI luôn phải “neo” câu trả lời vào một tài liệu cụ thể thay vì để nó tự do hồi tưởng, tỷ lệ bịa đặt thông tin giảm đi đáng kể.

Vì sao ngay cả những mô hình tốt nhất vẫn không tránh khỏi ảo giác hoàn toàn?

Gốc rễ nằm ở chính bản chất đã tìm hiểu ở bài viết về LLM: mô hình được tối ưu để luôn tạo ra một câu trả lời trôi chảy, mạch lạc, dựa trên xác suất thống kê — chứ không được trang bị cơ chế nội tại để phân biệt giữa “tôi biết chắc” và “tôi đang đoán.” Khi không có đủ dữ kiện thực tế trong dữ liệu huấn luyện hoặc trong ngữ cảnh được cung cấp, mô hình vẫn tiếp tục “đoán” ra một chuỗi từ nghe rất hợp lý — với cùng độ tự tin như khi nó trả lời đúng.

Doanh nghiệp có thể giảm thiểu rủi ro này bằng những cách nào?

Có ba lớp phòng thủ thực tế. Thứ nhất là các kỹ thuật đã học ở những bài trước trong series: Chain-of-Thought buộc AI trình bày từng bước lập luận, Few-shot Prompting neo AI vào khuôn mẫu cụ thể đã được kiểm chứng. Thứ hai, và quan trọng nhất với các ứng dụng doanh nghiệp, là kỹ thuật cho phép AI tra cứu tài liệu thật trước khi trả lời thay vì chỉ dựa vào trí nhớ đã huấn luyện — kỹ thuật này có tên gọi RAG, chủ đề của bài viết tiếp theo. Thứ ba là duy trì một quy trình kiểm chứng của con người (human-in-the-loop) đối với mọi quyết định có rủi ro cao, đúng như bài học 812,02 CAD mà Air Canada đã phải trả giá.

Ta không thể xóa bỏ hoàn toàn ảo giác, nhưng có một kỹ thuật đã được chứng minh giúp giảm thiểu nó đáng kể bằng cách cho AI “mở sách” tra cứu tài liệu thật trước khi trả lời. Đó là RAG — chủ đề bài viết tiếp theo.

Tham khảo khóa học AI Mastery for Work level 1 và 2 tại đây.