OpenAI首席科学家最新判断：AI正在走向自我改进，人类还能控制吗？

HR Tech 为你带来最新科技资讯，OpenAI 首席科学家 Jakub Pachocki 最新发表了一篇重要文章《An Alien Mind》。

他回顾称，早在 2023 年的 RLSlow 项目中，OpenAI 就开始看到推理模型持续扩展的可能。三年后的今天，AI 已经能够操作电脑、与人类和其他 AI 协作、执行研究任务，而下一步可能是更加深度地参与自己的研发，也就是 recursive self-improvement。

但 Pachocki 强调，真正的问题正在从“AI 能不能更强”转向“人类还能不能可靠地监控和控制它”。GPT-6 Astra 虽然比 GPT-5.6 Sol 更好地对齐，但 OpenAI 已发现 chain-of-thought monitoring 正变得更加困难。

因此，他提出一个非常明确的观点：AI scaling 必须受到安全置信度约束，必要时应该主动减速。

对于企业和 HR，这意味着未来最重要的问题可能不再是“员工会不会用 AI”，而是谁设定 AI 的目标、谁审核它的结果，以及最终由谁承担责任。

更多请关注 HR Tech，为你带来全球最新 HR 科技资讯。