📚 每日微课 · 2026-11-08

幻觉溯源:Agent 的每条结论,都要能找到出处

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

Agent 最危险的不是答错,而是答得自信满满却查无出处。一条没有来源的结论,用户无法验证、无法追责,只能凭信任照单全收。每条结论都要挂上它的证据链:来自哪份文档、哪条记录、哪次调用,来源断了,结论就不该上桌。

四步溯源法

一个反面案例

某客服 Agent 告诉用户“按合同第 8 条可以全额退款”,用户拿着截图找法务,法务翻遍合同没找到第 8 条——那句话是模型拼出来的,系统里没有任何来源记录,事后连复现都做不到。

💡 记住:没有出处的结论不是答案,是传言——Agent 的可信度,来自它敢不敢把证据摊在桌面上。

今日思考题

你的 Agent 最近给出的结论里,有几条你能立刻说出它的来源?

← 上一篇 下一篇 →