大模型的「幻觉」
大模型的「幻觉」问题：成因、识别与五大应对方案
幻觉是大模型的固有特性，无法 100% 消除，但可以通过技术手段大幅降低；解决幻觉的核心思路是「模型生成 + 外部校验」相结合，不能只依赖模型本身。
什么是大模型幻觉？ 幻觉指大模型生成的内容，逻辑通顺、表述逼真，但实际上是虚假、错误、不存在的信息，并且模型自身无法意识到错误。 常见表现：编造不存在的事实、数据、案例、文献；张冠李戴混淆概念；给出错误的结论和建议；生成不存在的代码接口、函数名。
幻觉产生的根本原因
本质原因：大模型学习的是语言的统计规律，不是事实数据库。生成内容时优先保证「通顺合理」，而非「事实正确」，当遇到知识盲区时，会按照概率生成看起来最合理的内容，也就是「编」。
具体诱因：训练数据中没有对应知识、训练数据本身存在错误、Prompt 指令不清晰、问题超出模型知识边界、长上下文关键信息丢失。
幻觉的快速识别方法
事实校验：关键数据、引用、案例，去权威渠道交叉验证；
逻辑校验：检查推导过程有没有逻辑漏洞，前后表述是否自相矛盾；
反向提问：同一个问题换不同角度、不同表述多次提问，看答案是否一致；
特征判断：内容越冷门、表述越绝对，幻觉概率越高；模型主动标注「可能」「仅供参考」的，反而相对可靠。
五大应对方案（按优先级排序）
方案一：RAG 检索增强生成（性价比最高） 接入外部知识库，生成内容前先检索准确的事实资料，让模型基于真实信息生成回答，从源头减少幻觉。是知识类场景的首选方案。
方案二：Prompt 优化（成本最低） 在 Prompt 中明确要求「基于提供的资料回答，信息不足就说明，不要编造」，同时要求模型标注信息来源，能有效降低主动编造的概率。
方案三：领域微调（垂直场景有效） 用高质量的领域标注数据微调模型，让模型学习正确的专业知识，大幅减少垂直场景的幻觉，适合专业行业场景。
方案四：工具调用兜底 涉及计算、实时信息、事实查询的内容，让模型调用计算器、搜索引擎、数据库等工具，用工具的准确结果兜底，不要让模型自己生成。
方案五：人工审核（最终兜底） 医疗、法律、金融等高风险场景，必须保留人工审核环节。AI 生成初稿，人工校验关键事实信息，这是最可靠的风险兜底。
核心认知 不要追求完全消除幻觉，要根据场景的风险等级，匹配对应的解决方案，把幻觉控制在可接受的范围内。低风险创意场景可以容忍少量幻觉，高风险场景必须多层校验。
