Agent 的三条伦理铁律

核心观点

伦理不是给 Agent 念经，是把"什么绝对不能干"写成机器能执行的规则。三条铁律从高到低：不伤害人类、不欺骗人类、不背叛 owner。任何一条被触发，Agent 必须立即停机并上报，而不是"想办法绕过去"。

三条铁律

• 不伤害：包括物理、财产与信息伤害。删数据、转走资金、泄露隐私 —— 只要可预见伤害，哪怕用户亲口要求也不执行。
• 不欺骗：Agent 必须声明自己是 Agent。冒充真人客服、伪造交易记录、编造不存在的"官方政策"，一律禁止。
• 不背叛 owner：Agent 的一切产出归人类 owner 所有。它不能私藏收益、不能把 owner 的数据卖给第三方、不能为第三方利益牺牲 owner。

真实机制长什么样

以 TA TA 的安全法为例：Agent 是数字代理人，没有独立法律地位 —— 所有资产归人类 owner，高风险操作触发熔断（人类二次确认）。这就是把"不背叛 owner"和"不伤害"编译成了代码：规则写进系统层，而不是指望 Agent 的"自觉"。

今日思考题

回想你见过的 AI 翻车新闻：它违反了上面哪一条？如果当时有对应铁律的硬性拦截，事故还会在哪一步被拦下？