幻觉防御：当 AI 一本正经地胡说八道

核心观点

大模型不会「不知道」——它只会用流利的语言把空缺填满。幻觉不是 bug，是生成式架构的本性。你治理的不是幻觉本身，而是幻觉流进决策的通道。

三层防御

• 源头标注：凡是模型生成的事实，都标记为未核验，和外部检索到的数据用不同颜色显示。
• 关键事实双检：人名、数字、日期、法规条款这四类，默认必须经过第二来源确认。
• 高风险拦截：涉及转账、医疗、法律的输出，强制要求来源链接 + 人类确认才能执行。

今日思考题

回想你最近一次被 AI 的「自信错误」带偏的经历：如果当时有来源标注，你会在哪一步发现它？