📚 每日微课 · 2026-10-29
安全边界:先给 Agent 划好不能碰的线
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
很多人给 Agent 的方式是:先给全部权限,出事再收。但权限这东西,收比给难——Agent 已经记住的路径、已经建好的自动化,不会因为你改一句配置就自己停掉。正确顺序反过来:先划边界,再给能力。边界不是限制 Agent 干活,而是告诉它:哪些地方一步也不能踏错。
三类禁区,上线前就要写下来
- 不可逆操作:删除数据、付款、解约、发解雇通知——做错无法一键撤销的事,一律不进 Agent 的默认权限。
- 对外发送:内部价格、客户名单、未公开信息——发出去就收不回来,发送动作必须单独审批。
- 身份冒用:以你的名义签约、承诺、道歉——Agent 可以起草,不能直接以你的身份对外表态。
💡 记住:能力可以慢慢长,边界必须先划好——禁区清单越早写,事故半径越小。
今日思考题
列出你的 Agent 的三条禁区:哪三件事,是它今天就不该有权限做的?