RAG 幻觉治理:企业上 RAG 的第一顾虑怎么解
摘要:幻觉不是单一模型问题,而是「检索没给对依据」与「生成没守住依据」的叠加。先分型、修召回、约束生成,再用忠实度指标把问题变成可回归的数字。
企业上线 RAG 时最常被问的一句是「它会不会一本正经地编」。多数团队的第一反应是换更强的模型,或把温度调低,但几轮下来发现问题只是换了形态:明显的编造少了,答案与依据悄悄偏移的情况却更难被发现。原因是幻觉并不只发生在生成端——检索没取回正确片段、切块把关键条件切丢、重排把权威文档压到后面,都会让模型在错误的依据上写出流畅答案。治理因此要有链路视角:先把幻觉分型,定位到具体环节,再逐层加约束,最后建立能持续回归的评测。本文按这个顺序给出可执行的做法。
关键要点
- 先分型再动手:无依据的编造、依据被曲解、依据过时与答非所问,分别对应召回、生成、数据治理与查询理解,用同一套提示词压不住所有类型。
- 召回是天花板:正确文档若没进候选,后续重排与生成都无法补救,切块策略、同义词与多路召回应先于模型升级处理。
- 把「有据可查」变成输出格式:让每个论断附带可回溯的片段引用,并对依据不足的问题保留拒答路径,比在提示词里写「不要编造」可靠得多。
- 忠实度是可计算的:以答案中的论断能否被检索上下文支撑为判据,把幻觉从主观印象变成可对比、可设阈值的指标。
- 评测要接进回归:检索与生成分别评测,每次改动都用固定评测集跑一遍,才能区分「这次变好」与「这批问题恰好简单」。
- 企业落地需要运营层:屏蔽、加权、直达与报表 A/B 独立于模型分数存在,让业务侧能在不重训模型的前提下干预高风险答案。
一、结论先行:先分型,再定位到链路层
把「幻觉」当成一个统一故障,是治理中最常见的框架错误。上线评审里至少要把它拆成四类:答案凭空给出上下文里完全没有的事实;上下文里有依据但被模型曲解或过度外推;依据本身已经过期或来自错误版本;以及问题被理解偏了,导致检索与生成都朝着错误方向使劲。四类的责任环节完全不同,第一类多属召回与知识覆盖不足,第二类出在生成约束与提示结构,第三类属于数据治理与版本管理,第四类要回到查询理解与意图识别。若不做分型,团队往往会把所有问题都归因到模型,反复调整提示词却收效甚微。可操作的做法是先建一份按类型标注的失败样例集,每条记录原始问题、检索到的片段、生成的答案与错误归类;累积到一定规模后,哪一层是主要矛盾就会清晰可见。分型之后再谈技术选型:召回层要修的是覆盖与切块,生成层要修的是输出格式与拒答边界,评测层要修的是能不能稳定复现问题。这个顺序决定了后面所有投入是否会打在正确的位置上。
二、召回层:没有正确依据,生成再克制也没用
第一层治理不发生在模型里,而发生在检索链路。Sentence-Transformers 的 Retrieve & Re-rank 官方教程 给出的两阶段范式,把一个常被忽略的事实讲得很清楚:先用高效检索取回候选,再对短候选列表精排,而正确文档若压根不在候选里,后续任何重排都无法补救。企业场景里造成「不在候选」的原因通常不是模型不够强,而是工程细节:长文档被粗暴切块,把「适用条件」「生效日期」与主体结论切到了不同片段;商品型号、内部缩写与多语言别名没有同义词映射;只用单一向量召回,恰好漏掉标题里精确匹配的专业术语。对应的修法是先把切块改成按语义边界与结构切分并保留上下文标题,再用倒排、多路与语义召回并行取候选,把查询理解层的分词、纠错、类目预测与词权重接在前面。验收方式也应当具体:用一份已知正确文档的问题集,检查正确片段是否稳定进入候选集,而不是只看最终答案是否流畅。召回覆盖率上不去时,任何生成端的「请严格依据上下文」都只是在要求模型用错误材料写得更小心。
三、生成层:把有据可查变成硬约束
第二层才是生成端的约束,但重点不是措辞,而是输出结构。在提示词里加一句「不要编造」属于软约束,模型在上下文不足时仍倾向于补全一个看似合理的答案。更可靠的做法是让答案必须携带可校验的依据:Anthropic 在 Citations 官方文档 中描述的引用式输出,把每个论断与具体来源片段关联起来,使下游可以逐条核对而不是整段通读。落到企业应用上,至少要做到三件事:要求答案按论断分句,每句对应一个片段编号;当检索片段与问题不匹配或置信不足时,走明确的拒答或转人工路径,而不是降级成自由发挥;把「不得引用片段之外的数字、日期与承诺」写成输出校验规则,在返回用户前做一次程序化检查。这里要注意一个平衡:引用密度过高会损害可读性,因此可以按场景分级,客服与合规类答案强制逐句引用,导航与概要类答案保留来源列表即可。拒答率本身也应被监测——它突然升高往往意味着召回或数据版本出了问题,反而是比答案流畅度更灵敏的预警信号。把约束做成格式与校验,而不是愿望清单,幻觉才会从「偶尔发生」变成「可被拦截」。
四、评测层:用忠实度把幻觉变成可回归的数字
第三层解决「怎么知道有没有变好」。主观抽查无法支撑迭代,因为不同评审人的标准不同,且每轮抽样的问题难度不一。RAGAS 在 Faithfulness 指标文档 里给出的判据很实用:把答案拆成论断,逐条检查能否由检索到的上下文支撑,再计算被支撑论断的占比。这个定义把「是否编造」转成可计算、可设阈值的量,也天然区分了「依据错」与「表述错」。其背后的 RAGAS 评测框架论文 进一步主张在不依赖大量人工标注的前提下,对检索与生成分别评估,便于持续跑批。工程落地建议配一份固定的评测集:覆盖高频问题、边界条件、已知易错案例与应当拒答的问题,每次改动检索策略、切块、模型或提示词后都跑同一批,记录忠实度、答案相关性与拒答率三项变化。LlamaIndex 的 Evaluating 模块文档 描述了把检索与生成拆开评测的组件,适合接进持续回归流程。评测的价值不在分数本身,而在于让每次改动都有可比的基准:如果忠实度没动而拒答率翻倍,说明只是把问题挡在门外,并没有真正修好。
五、企业落地:监控、回归与运营干预
能把治理长期跑下去的,是把「监测 → 定位 → 改动 → 回归 → 干预」接成闭环,而不是一次性调参。线上要保留每个答案的原始问题、检索片段、引用映射与拒答原因,出现投诉时可完整复现;用固定评测集做发布前回归,任何一项指标越界就阻断上线;对高风险主题设确定性运营规则,把已知错误来源屏蔽、把权威文档加权或直达,并让这些规则独立于模型分数存在,避免一次模型升级把治理成果冲掉。通智搜索作为企业级站内搜索引擎,把查询理解、倒排与多路及 AI 语义召回、粗排精排模型,以及固定位、屏蔽、直达、打散与加权等运营干预做成可配置能力,并提供报表与 A/B 让每次调整可被验证;它面向企业内部搜索、知识库问答与 RAG / 向量等站内检索场景,不涉及对外搜索引擎排名或 AI 答案引用。回到 RAGAS 的忠实度定义:先把召回覆盖做扎实,再用引用式输出约束生成,最后让评测集与运营层守住长期质量,RAG 幻觉就从「上线前最大的顾虑」变成一项可度量、可收敛的工程指标。
常见问题
问:换个更强的模型是不是就能解决幻觉?
答:通常不能。若正确依据没被召回,更强的模型只会把错误材料组织得更流畅。先检查切块、同义词与多路召回,让正确片段稳定进入候选,再评估模型升级的收益。
问:提示词里写「不要编造」为什么效果有限?
答:这是软约束,上下文不足时模型仍倾向于补全。应改成硬约束:答案按论断分句并附带片段引用,依据不足时走拒答路径,返回前对数字、日期与承诺做程序化校验。
问:忠实度指标怎么理解,多少算合格?
答:它衡量答案里的论断有多少能被检索上下文支撑。合格线应按场景自定并用固定评测集建立基线,看的是相对变化而非一个通用阈值;同时要看拒答率,避免用「多拒答」把分数做高。
问:拒答率突然升高说明什么?
答:往往不是模型变保守,而是召回或数据出了变化,例如索引版本更新、切块规则改动、权威文档下线。把拒答率与检索覆盖率一起监控,它通常比答案流畅度更早暴露问题。
问:业务规则应该放在模型里还是检索链路里?
答:放在检索链路里,并独立于模型分数。屏蔽、加权、直达属于确定性业务规则,与模型耦合会在升级时被冲掉;用报表与 A/B 观察干预效果,定期复核即可。
数据来源
- RAGAS,Faithfulness 指标文档:以答案论断能否被检索上下文支撑定义忠实度,把幻觉转为可计算指标。
- arXiv,RAGAS 评测框架论文:在少标注前提下对检索增强生成的检索与生成分别评估。
- Anthropic,Citations 官方文档:引用式输出结构,让答案论断可回溯到具体来源片段。
- LlamaIndex,Evaluating 模块文档:把检索与生成拆开评测并接入持续回归流程。
- Sentence-Transformers,Retrieve & Re-rank 官方教程:两阶段检索范式与「正确文档不在候选则无法补救」的召回天花板。
相关阅读
立即行动
关于通智云
通智云(TENGENCE)是 AI 时代的企业增长引擎,专注公域引流获客与私域转化成交;核心产品为通智 GEO(GEO + SEO 双引擎)、通智搜索与通智睿见 Insight(智能数据平台)。围绕本文讨论的 RAG 幻觉治理,通智搜索面向企业级站内检索场景,把查询理解、倒排与多路及 AI 语义召回、粗排精排模型,以及固定位、屏蔽、直达、打散与加权等运营干预做成可配置能力,并提供报表与 A/B 让每一次检索调整都可量化验证;企业内部搜索、知识库问答与 RAG / 向量均在其适用场景之内。