📚 每日微课 · 2026-11-14
应急下线:出问题时,一键停掉 Agent 的能力
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
再好的 Agent 也会有失控的一天。治理的最后一道防线不是预防,而是“出事时能立刻停下来”:一个明确的下线开关、一个负责人、一条不用请示就能执行的流程。
三条落地规则
- 开关要独立:下线开关不依赖 Agent 自身,人在控制台一点就停,不经过它同意。
- 分级停:先停高危动作(对外发送、支付、删改),再停全部,停得越快、损失越小。
- 停后要复盘:每次下线都记一条:为什么停、停了多久、根因是什么、怎么防止再犯。
一个真实教训
某 Agent 半夜开始批量发错邮件,值班人员找了 40 分钟才找到停用的入口——40 分钟里多发出 2000 多封,停晚一分钟就多一批。
💡 记住:能随时停下的 Agent 才敢放心用;停不下来的,再聪明也是失控。
今日思考题
你的 Agent 如果现在失控,你能在几分钟内把它停下来?