幻觉最难防的地方,不是 Agent 说错,而是它说得太像真的。治理的办法不是要求它永远正确,而是要求它每个关键结论都附上可验证的出处:数据来自哪里、哪一步算出来的、哪条规则定的。查不到出处,结论就不进决策。
给 Agent 立一条硬规矩:涉及数字、法条、医疗、财务的回答,没有出处就不输出结论,只输出“暂无法验证,建议人工核查”。这条规矩会让它变“啰嗦”,但会让你少踩很多坑。
💡 记住:你要的不是一个永远正确的 Agent,而是一个说错时你能立刻定位错在哪一步的 Agent。
翻出你的 Agent 最近给出的 3 个结论:每个结论的出处,你能在 1 分钟内找到吗?找不到的,就是证据链的缺口。