📚 每日微课 · 2026-10-29
责任归属:Agent 闯祸,账算在谁头上
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
Agent 闯祸后最常见的扯皮是:模型方说这是用户指令的问题,用户说这是模型幻觉,部署方说这只是工具。现实是:Agent 没有法律人格,不能担责,账最终一定落在某个具体的人或组织头上。与其出事再争,不如上线前就把责任链写清楚:谁选的模型、谁给的权限、谁批的高风险动作。
责任链的三环
- 部署者:选了这个 Agent、定了它的权限范围——权限给得过大,部署者先担责。
- 运营者:日常监督、复核告警、定期收权限——告警响了没人看,运营者要担责。
- 指令者:下了那道具体指令的人——指令本身违法或越权,指令者跑不掉。
- 三环之外还有一个前提:没有留痕,就没法定责。审计日志不是负担,是出事后唯一能还原真相的证据。
💡 记住:Agent 可以执行,但不能担责——担责的永远是给它钥匙的人。
今日思考题
假设你的 Agent 明天闯了祸:你能立刻拿出哪三条证据,说明责任链上的每一环?