众力资讯网

AI 学会了自我感动,但还没学会自我反思。。。 刚才看到清华大学最新的研究:

AI 学会了自我感动,但还没学会自我反思。。。

刚才看到清华大学最新的研究:

他们直接调取了 1338 次真实的 AI 自动化训练过程,发现了一个非常幽默的真相:现在的 AI 智能体,简直把“用战术上的勤奋掩盖战略上的懒惰”给贯彻到了极致。

数据展现出来的行为形态非常有意思:

面对复杂的训练任务,AI 确实能不吃不喝地跑代码、评估结果、连续迭代好几个小时,干活比谁都卖力。可一旦它最开始选错了技术路线,它就会在这条死胡同里一路走到黑,绝不会停下来思考一句:“等等,是不是我最初的大方向就选错了?”

最让人哭笑不得的是研究人员尝试救它的过程。为了破掉这种路径依赖,研究人员给它塞了更多上下文记忆、强化了技能库、引入了人类指导,甚至把推理算力暴砸了 2 到 8 倍。

结果呢?

这些额外的算力只有在简单任务上显灵了,一旦碰到真正有难度的硬骨头,加钱加算力的结果仅仅是让它在错误的方向上跑得更卷、更用力而已。

这像不像极了项目路线走偏时,死活不肯推翻重来、反而疯狂带领团队加班填坑的某些中层管理者?

大家都以为 AI 实现自我进化的关键在于“迭代速度”,但能迭代和能反思完全是两码事。

模型擅长的是在现有范式里做局部最优解的梯度下降,但要让它产生自我怀疑、打破前置假设去重新思考(Rethink),需要的可能根本不是更多的 Token,而是某种目前底层架构里还没有的元认知能力。

AI 可以帮你以极高的效率把砖头砌得严丝合缝,但它永远发现不了这面墙从一开始就砌错位置了。

某种程度上看,撞了南墙也不回头、靠自我感动式努力继续死磕,AI 甚至不需要学会人类的意识,就已经先把人类最顽固的特质学了个十成十。