一句话答案
Hallucination 常被翻译成 AI 幻觉。它指 AI 编出不存在的资料、错误引用、错误日期、错误人物关系，或把不确定的事情讲得很肯定。
为什么会发生
大型语言模型擅长预测和生成语言，但它不天然知道每句话是否真实。资料不足、问题太模糊、要求太肯定，或涉及最新事件时，都更容易出现幻觉。
高风险场景
法律、医疗和财务
这些领域错误成本很高，不能只靠 AI 的回答。
引用和数据
AI 可能编出不存在的研究、链接、页码或统计数字。
公司政策和产品价格
这类信息经常变化，需要查官方网站或内部资料。
如何减少幻觉
给 AI 明确资料来源，要求它区分“根据资料可确定”和“需要进一步查证”。如果是重要内容，要让 AI 列出检查清单，而不是只给最终答案。
继续学习
RAG 可以通过检索指定资料来降低幻觉，但仍然需要人判断资料质量。