模型做决策,33 毫秒出结果
上海 AI 实验室放出 Intern-Decision,0.8B 到 4B 的多模态小模型,不生成文字,直接输出结构化选择。七个测试集平均准确率 90.02%,单张 RTX 4090 上响应 33 到 44 毫秒。这个方向值得注意:大部分业务场景要的不是"会聊天",是"选对那一项"——路由、审核、分类、派单。用几百 B 的模型干这种事,像开卡车送外卖。把决策放回本地、放回小模型,省的是钱、延迟和一条数据出境的合规链路。缺点也明显:它只会做你定义好的选择题,题目一变就得重训。这不是通用智能的进步,是工程上的归位。