📚 每日微课 · 2026-10-31

证据链要求:Agent 的每个结论都要能查到出处

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

幻觉最难防的地方,不是 Agent 说错,而是它说得太像真的。治理的办法不是要求它永远正确,而是要求它每个关键结论都附上可验证的出处:数据来自哪里、哪一步算出来的、哪条规则定的。查不到出处,结论就不进决策。

证据链三要素

一个可用规则

给 Agent 立一条硬规矩:涉及数字、法条、医疗、财务的回答,没有出处就不输出结论,只输出“暂无法验证,建议人工核查”。这条规矩会让它变“啰嗦”,但会让你少踩很多坑。

💡 记住:你要的不是一个永远正确的 Agent,而是一个说错时你能立刻定位错在哪一步的 Agent。

今日思考题

翻出你的 Agent 最近给出的 3 个结论:每个结论的出处,你能在 1 分钟内找到吗?找不到的,就是证据链的缺口。

← TaTa School 下一篇 →