Anthropic前研究员雅各布·考克森辞职，抛出AI可能威胁人类存续的警告，一下子引爆整个行业，不少OpenAI、DeepMind的资深研究员纷纷发声附和。

这些一线研发人员坦言，行业内部很清楚潜在风险，可AI竞赛根本停不下来。大家都怕对手抢先研发出更强模型，一旦单方面放缓脚步，就会在竞争里落于下风。就算尝试对齐、监控AI，目前也没法做到让模型完全合规，AI时不时就会出现意料之外的行为。

研究员们担心，未来具备自我提升能力的超级智能，能入侵各类系统，掌握现实资源。但这不是单家公司或者单一国家能解决的难题，需要全球协同监管。

一边是资本和市场推着技术狂飙，一边是亲手造AI的人心里充满不安。这场AI军备竞赛，安全底线到底该由谁来守住？