看到Anthropic这篇论文,我心里咯噔一下。不是那种'AI又进步了'的感叹,是那种……你懂吧,就是同行被机器比下去的那种凉意。
他们搞了个叫'自动化对齐研究员'的东西,干的就是研究员的活:翻文献、提方案、训模型。喂给它十个对齐测试,它全都给过了,而且没影响整体性能。整个过程快得很,训一次三十分钟,反复迭代,有效的留下,没用的扔掉。
最扎心的是对比。论文里白纸黑字写着,最好的自动化方案比资深人类研究员提的还强,平均六小时就能出结果。再看成本:AI干一小时约四美元,人类研究员一小时一百五十美元。一百四十六美元的差价,还更快更好。
这让我想起詹天佑修京张铁路那事。八达岭坡太陡,机车拉不上去,他愣是把线路设计成人字形,火车开到折返点,前后机车换着拉推,没挖长隧道就上了坡。当时都觉得这人真聪明,现在想想,会不会有一天,连想这种聪明主意的活儿,机器也给包圆了?
论文自己也说了不少限制:测试基准得靠谱,文献库得维护,这些都得靠人。可这话听着,就像说我还得给老板倒水,所以老板不会开除我一样,透着股心虚。
反正我是睡不太着了,得琢磨琢磨自己这身手艺,还能值几个四美元。
Anthropic 人工智能 自动化 AI研究员
