📚 每日微课 · 2026-11-13
幻觉要标可信度:Agent 的每句话,都要带上“把握有多大”
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
Agent 一定会编出听起来很真的假话,拦不住。能拦住的,是让它在每句话后面老实标上“这句我有几成把握”——把握低的,用户一眼就能看出来、去核实。
三条落地规则
- 分级标出来:高可信(有来源可查)、中可信(合理推断)、低可信(纯猜测)三档,写进每一条回答里。
- 低可信要提醒:把握低的结论必须配一句“建议核实”,不准用肯定的语气包装猜测。
- 来源跟得上:高可信的结论必须能点开出处;点不开出处,就不配标高可信。
一个真实教训
某客服 Agent 把一条编造的退货政策说得斩钉截铁,用户照做被拒,投诉时客服拿不出任何依据——一句“政策如此”,没人知道它从哪来。
💡 记住:不怕 Agent 不知道,怕它不知道还装知道;标出可信度,猜测就伤不了人。
今日思考题
你的 Agent 上一次一本正经地说错话,有没有先告诉用户“这句把握不大”?