📚 每日微课 · 2026-11-10

给 Agent 一个急停键:失控演练每月做一次

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

熔断、限额都是自动的,但自动的东西也会失灵。真正救命的是一个随时能按下去的急停键,和一群知道怎么按它的人。

三条落地规则

一个真实教训

某团队的 Agent 半夜开始批量发错邮件,值班的人花了 40 分钟才找到停用入口——急停键是有的,但没人演练过,等于没有。

💡 记住:没演练过的急停键,和没有急停键是一回事。

今日思考题

如果你的 Agent 现在就失控了,你能在几分钟内把它停下来?你上一次演练是什么时候?

← 上一篇 TaTa School →