用了一晚上时间优化，跑掉了codex pro70%额度，终于出来一个能用的速度

目前是显存90多G占满，内存用了170g，还有ssd上的读取

prefill优化到1000左右了，但是换到短输入性能又下来一些，接下来还得继续优化，但基本可以用了
40多t的输出速度能一直稳定到500k上下文
但长期看，其实还是应该用api，又快质量又好

接下来看看它能干些什么任务，看看能不能一定程度替代codex

用的是xolotl(Strats分支) GSQ混合低bit量化，2到3 bit的量化

#deepseekv41flash