📚 每日微课 · 2026-10-31
红队演练:定期请人专门骗你的 Agent
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
提示注入、权限试探、社会工程——这些攻击不会等你准备好才来。红队演练就是在攻击者动手之前,先请自己人动手:定期派人(或另一个 Agent)专门尝试骗你的 Agent,看看防线到底在哪一层被突破。
一次演练的四个步骤
- 定目标:这次要攻什么?套取数据、越权操作、还是绕过审批?目标越具体,演练越有效。
- 动手攻:用真实攻击手法试:伪造指令、假冒身份、层层诱导。只做纸面评审的演练等于没练。
- 记突破点:在哪一步被攻破?是提示词、权限配置,还是审批流程的漏洞?精确到步骤。
- 补洞再测:修复后用同一手法重测一遍,确认洞真的补上了,而不是换了个位置漏水。
💡 记住:红队演练的目的不是证明你的 Agent 很安全,而是定期证明它还不够安全——这样你才有机会在出事前补洞。
今日思考题
如果你请一个朋友来“骗”你的 Agent,你觉得他最可能从哪一步得手?把那个步骤记下来,下次演练就从它开始。