众力资讯网

unsloth新出的qwen3.6 27b nvfp4不错

简而言之,这个模型权重4 bit,激活也是4bit

结果测下来比英伟达的nvfp4略微快一些,体现在更高并发的速度,我把它切换为主力了

图二是另一个测试,在5090移动版24g显存上开了dflash开了turboQuant,跑满上下文还有17的输出速度

qwen3.6 27b这个模型真的是
社区一路优化,比最开始性能提升了巨大

可惜可能是个绝唱了