众力资讯网

AI越聪明,为什么反而越来越慢?

最近开 GPT-6 Pro,我发现一件挺反常的事:我花更多的钱,买到了一个回答更慢的 AI。

以前计算机行业几乎都在消灭等待。CPU 要快,网页要快,搜索要快,loading 多转几秒都像产品出了问题。现在 reasoning model 却开始认真卖一句话:你先等一下,我再想想。

而且“多想”确实可能有用。

2024 年 OpenAI 发布 o1 时就展示过,同一个 reasoning model,随着 test-time compute 增加,表现还能继续提高。UC Berkeley 后来做得更狠:在一些小模型本来已经会一点的问题上,合理分配 test-time compute,甚至能超过参数规模大 14 倍的模型。

以前打不过,换个更大的模型。

现在还可以先给它一张草稿纸。

可惜这张草稿纸不是无限续杯。研究发现,不同难度的问题,对额外 compute 的回报完全不同。简单题想太久可能只是浪费;中等难度最容易受益;难到一定程度,继续烧算力也未必救得回来。

Apple 后来的复杂度实验甚至观察到一个很怪的现象:题继续变难以后,模型的 reasoning effort 反而会下降。当然,这篇论文后来也因为实验设计、输出长度限制等问题遭到不少质疑,所以不能简单拿它证明“AI不会思考”。

但有件事越来越有意思。

以前 Scaling Law 主要问:模型训练时到底该花多少算力?

现在每按一次 Send,还多了一道题:

这一题,值多少钱?

以前看到 loading,我只想催。

现在偶尔会想,它到底是在浪费我的时间,还是在给答案买时间。

#人工智能 #大模型 #生成式AI #AI研究 #科技
#ScalingLaw #TestTimeScaling #ReasoningModel #InferenceCompute #GPT6Pro