594B参数只激活17B？这个新模型有点。稀疏 MoE 让极小的激活参数撑起超大容量Thinking Machines Lab 发布第二代 Inkling 系列的首款模型 Inkling 2 Small。该模型采用稀疏 MoE 架构，总参数 594B，但单次推理仅激活 17B 参数。 MoE 稀疏MoE 1M上下文 大模型
594B参数只激活17B？这个新模型有点。稀疏 MoE 让极小的激活参数撑起超大容量Thinking Machines Lab 发布第二代 Inkling 系列的首款模型 Inkling 2 Small。该模型采用稀疏 MoE 架构，总参数 594B，但单次推理仅激活 17B 参数。 MoE 稀疏MoE 1M上下文 大模型