📚 每日微课 · 2026-11-17
降级开关:一键让 Agent 回到只读模式
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
Agent 出问题时,最快的止血不是修它,而是先让它停下手、只看不做。降级开关就是给 Agent 装的一键只读模式:出事 10 秒内切断写操作,业务不停、损失不扩大。
三条落地规则
- 开关要独立于 Agent 本身:开关失灵时 Agent 也要能被外部强行只读,不能让它自己决定自己停不停。
- 只读模式要明确清单:能查、能读、能汇报;不能下单、不能改数据、不能对外发消息。
- 每次降级都要留记录:谁按的开关、什么时候、为什么,恢复时按同一张单子逐项检查。
一个真实教训
某电商的客服 Agent 半夜开始批量给用户发错退款,值班同学花了 40 分钟找代码问题,退款多发了两千多单——如果当时先按降级开关,损失只会是已发出的十几单。
💡 记住:修 Agent 之前,先让它停下手;止血永远比治病快。
今日思考题
你的系统里,有没有一个 10 秒内能让 Agent 只读的开关?