【萨顿直言AI发展真谛：别用人类知识束缚人工智能】

快速阅读：Richard Sutton 再次重申了那个著名的“苦涩教训”：不要试图把人类的知识硬塞给 AI，而应专注于那些能随计算量增长而规模化的方法，比如搜索与学习。然而，当前的 AI 范式似乎正陷入一种矛盾，一边追求规模化，一边又极度依赖人类知识的喂养。

不要被人类知识带偏了。

这是 Richard Sutton 对 AI 发展路径的断言。他认为，与其费尽心思把人类总结的经验、规则和抽象概念塞进模型，不如把赌注押在搜索和学习这些能随算力自动扩张的方法上。这就像是与其教一个孩子背诵所有的物理定律，不如给他一套完善的实验设备和足够的时间，让他自己去推导。

但现在的局面很有意思。

现在的模型其实正处于一种“知识依赖症”中。它们不仅需要海量的人类数据作为燃料，甚至连系统提示词、各种工具链、以及精心设计的各种框架，本质上都是人类知识的延伸。如果把模型比作引擎，人类知识既是燃料，也是精密设计的传动装置。

这种矛盾在企业应用层面表现得更明显。

模型本身可以随算力无限扩张，但要把模型放进公司里用，却需要大量的“人工干预”。治理规则、领域约束、组织特有的上下文，这些东西都无法通过单纯堆算力来解决。有观点认为，模型规模化了，但如何将它应用在现实世界的复杂流程中，依然是一个极其依赖人类知识的过程。

甚至有人提出了一个反直觉的观察：最强大的 AI 往往是在模仿人类过去的共识，而人类智能的价值，恰恰在于那种能够打破共识、利用直觉创造新事物的能力。

如果规模化最终赢得了比赛，那我们到底是在创造一种全新的智能，还是仅仅在构建一个更庞大的、人类知识的镜像？

如果学习信号仅仅来自于对过去数据的统计模拟，那它离真正的“经验”还有多远？

x.com/RichardSSutton/status/2056419165502935198