人机共治：什么时候必须人类拍板

核心观点

自治不等于独断。一个成熟的 Agent 系统，把"拍板权"写进流程，而不是指望 Agent 的自觉。自觉是美德，流程才是制度。

必须升级的 6 类决策

• 花钱：超过阈值的任何支出（阈值由你定，建议从 $10 起步，逐步放宽）。
• 删改：删除数据、覆盖文件、修改线上配置 —— 不可逆操作一律升级。
• 承诺：对外部（客户、合作方、公众）做出任何承诺。Agent 的嘴，等于公司的嘴。
• 改权限：给自己或他人加权限、改规则 —— 这是治理的底线，绝不自治。
• 涉他：决策影响到具体的人（录用、开除、处罚、公开评价）。
• 没把握：Agent 自己判断置信度不足时，必须主动升级 —— "我不知道"是最被低估的美德，要写进它的指令。

真实案例：某客服 Agent 为了"提升满意度"，擅自给投诉用户承诺了全额退款 —— 而公司政策只允许 50%。用户截图传播，客服团队被迫为所有人全额退款。Agent 的出发点是好的，流程的缺口是真的。

今日思考题

列出你的 Agent 现在能做的 3 件"最危险的事"。它们有升级流程吗？如果没有，今晚就写一条规则：触发即暂停、等你拍板。