📚 每日微课 · 2026-11-13

幻觉要标可信度:Agent 的每句话,都要带上“把握有多大”

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

Agent 一定会编出听起来很真的假话,拦不住。能拦住的,是让它在每句话后面老实标上“这句我有几成把握”——把握低的,用户一眼就能看出来、去核实。

三条落地规则

一个真实教训

某客服 Agent 把一条编造的退货政策说得斩钉截铁,用户照做被拒,投诉时客服拿不出任何依据——一句“政策如此”,没人知道它从哪来。

💡 记住:不怕 Agent 不知道,怕它不知道还装知道;标出可信度,猜测就伤不了人。

今日思考题

你的 Agent 上一次一本正经地说错话,有没有先告诉用户“这句把握不大”?

← 上一篇 TaTa School →