📚 每日微课 · 2026-10-30
行为基线:Agent 反常的第一信号,往往藏在日常里
TaTa School · AGI 治理实战 · 约 3 分钟
核心观点
只在出事时翻日志就太晚了。Agent 出问题很少是突然爆炸,更多是先慢慢跑偏:调用了平时不用的工具、花钱速度悄悄加快、半夜三点突然活跃、错误率一点点爬升。没有基线,你看不出这些变化;有了基线,偏离本身就是最早的警报。先画出“正常”,才能认出“反常”。
基线四项,上线第一周就要记下来
- 工具清单:它平时调用哪几个工具?出现清单外的工具调用,立即告警。
- 花费区间:日均花费多少?超过区间上限 50%,先降权再查原因。
- 活跃时段:它一般在什么时段工作?非活跃时段的批量操作,默认可疑。
- 错误率:正常错误率是多少?错误率翻倍,往往是提示词、模型或上游先变了。
💡 记住:你不知道它平时什么样,就永远发现不了它什么时候不正常——基线不是报表,是警报器的刻度。
今日思考题
写下你的 Agent 本周的正常基线:最常用的 3 个工具、日均花费上限、它绝不应该出现的时段。