📚 每日微课 · 2026-11-04

幻觉防火墙:结论先贴证据等级,再上桌

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

Agent 的幻觉防不住,但可以分级。办法不是要求它永远正确,而是每条结论先贴一张证据标签再上桌:有出处、有复算、还是纯推断。标签一贴,用户一眼就知道这句话能信几分、要不要复核。没有标签的结论,一律按“没说”处理。

三档证据标签

一个反面案例

某 Agent 一本正经地引用了一条“不存在的法规条款”,用户差点照办。如果那条结论贴着“纯推断·无出处”,一眼就能拦住。幻觉最危险的时候,不是它说错,而是它说得像真的一样。

💡 记住:不怕 Agent 说错,就怕它说得像真的一样——标签就是给“像真的”设的一道关卡。

今日思考题

今天让你的 Agent 回答一个问题,检查它的结论有没有出处标签。没有的话,补一条规则:以后每条结论必须先贴标签。

← 上一篇 下一篇 →