一个SRE半夜排障,把日志、配置、监控输出一股脑喂给agent,五万五千多个token进去,出来两万四千多,省了57%。同一个报错,还是那个FATAL,一个字没漏。 这是headroom这个项目自己给的一组场景数据,用的是各家provider的分词器,离线跑,随机种子固定。听着像广告,但那个SRE场景我觉得挺真的——排
一个SRE半夜排障,把日志、配置、监控输出一股脑喂给agent,五万五千多个token进去,出来两万四千多,省了57%。同一个报错,还是那个FATAL,一个字没漏。
这是headroom这个项目自己给的一组场景数据,用的是各家provider的分词器,离线跑,随机种子固定。听着像广告,但那个SRE场景我觉得挺真的——排