📚 每日微课 · 2026-11-10
给 Agent 一个急停键:失控演练每月做一次
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
熔断、限额都是自动的,但自动的东西也会失灵。真正救命的是一个随时能按下去的急停键,和一群知道怎么按它的人。
三条落地规则
- 急停键要人人找得到:控制台、手机、值班群里都要有一键停用的入口,别只藏在某个管理员后台的第三层菜单里。
- 每月真按一次:演练不是开会讨论,是真的在测试环境拉闸——停掉 Agent、确认任务停住、再恢复,看全程要几分钟。
- 停了之后有清单:停用之后先做什么、通知谁、怎么恢复、谁签字才能重新上线,写成清单贴在演练手册第一页。
一个真实教训
某团队的 Agent 半夜开始批量发错邮件,值班的人花了 40 分钟才找到停用入口——急停键是有的,但没人演练过,等于没有。
💡 记住:没演练过的急停键,和没有急停键是一回事。
今日思考题
如果你的 Agent 现在就失控了,你能在几分钟内把它停下来?你上一次演练是什么时候?