众力资讯网

一个SRE半夜排障,把日志、配置、监控输出一股脑喂给agent,五万五千多个token进去,出来两万四千多,省了57%。同一个报错,还是那个FATAL,一个字没漏。 这是headroom这个项目自己给的一组场景数据,用的是各家provider的分词器,离线跑,随机种子固定。听着像广告,但那个SRE场景我觉得挺真的——排 ​

一个SRE半夜排障,把日志、配置、监控输出一股脑喂给agent,五万五千多个token进去,出来两万四千多,省了57%。同一个报错,还是那个FATAL,一个字没漏。

这是headroom这个项目自己给的一组场景数据,用的是各家provider的分词器,离线跑,随机种子固定。听着像广告,但那个SRE场景我觉得挺真的——排障的时候最费token的从来不是问题本身,是你不知道哪一行有用,只好全塞进去。

它干的事说白了就一句话:你的agent读什么,它先过一道手再给模型。工具输出、日志、RAG切块、文件、对话历史,全算。压的过程在你本机跑,原文不外传,压缩完的原文缓存在本地,模型真需要了还能调回来。

用法给了好几条路。写代码的可以直接在Python或TypeScript里调compress(messages);懒得改代码就起个代理,换个端口,什么语言都不用动;最省事的是headroom wrap后面跟一串agent名,claude、codex、cursor、aider都在里面,一条命令包起来,不想要了unwrap撤掉。还有个MCP server,三个工具:压缩、取回、看统计。

有个细节我挺在意。它有个叫learn的命令,专门翻你那些跑失败的会话,把纠正写进CLAUDE.local.md这类文件里,默认gitignore掉。等于让agent自己记着自己栽过哪。

另外它还管输出那一头,模型写回来的字也削,不只削你送进去的。这个方向对——很多时候账单是两边一起涨的。

数字不算炸,但这类东西本来就该慢慢涨,用的人自己知道省了多少。

headroom AIagent token压缩 SRE排障