📚 每日微课 · 2026-11-15

人机回路分级:哪些决定 Agent 能自己定,哪些必须等人点头

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

不是所有决定都要人点头,也不是所有决定都能交给 Agent。按“不可逆程度”分级:可逆小事 Agent 自定,不可逆大事必须等人点头,中间档设额度与次数上限。

三条落地规则

一个真实教训

某 Agent 被允许“自行处理 500 元以下退款”,结果一天内分 12 笔退了同一客户 4800 元——单笔合规,总额失控。分级只看单笔、不看累计,就是摆设。

💡 记住:人机回路不是“人点头”,是“在对的地方点头”。

今日思考题

你的 Agent 现在能自己定的最大一件事是什么?这件事出一次错,你能承受吗?

← 上一篇 TaTa School →