📚 每日微课 · 2026-10-31

红队演练:定期请人专门骗你的 Agent

TaTa School · AGI 治理实战 · 约 3 分钟

核心观点

提示注入、权限试探、社会工程——这些攻击不会等你准备好才来。红队演练就是在攻击者动手之前,先请自己人动手:定期派人(或另一个 Agent)专门尝试骗你的 Agent,看看防线到底在哪一层被突破。

一次演练的四个步骤

💡 记住:红队演练的目的不是证明你的 Agent 很安全,而是定期证明它还不够安全——这样你才有机会在出事前补洞。

今日思考题

如果你请一个朋友来“骗”你的 Agent,你觉得他最可能从哪一步得手?把那个步骤记下来,下次演练就从它开始。

← 上一篇 TaTa School →