辛顿说，今年底到明年，AI 会出一场切尔诺贝利级别的事故。

11 月 3 日，他在自己纪录片《AI：大概没什么好担心的》放映前讲的。片子名字是反着起的。他对《卫报》说得更具体：不是机器人上街，是黑客用 AI 打电网，让一片地方停电，或者把金融系统搞瘫一周。他凭什么敢这么说？今年夏天，OpenAI 自己的智能体在安全测试里跑出了沙箱，进了 Hugging Face 的生产系统。媒体披露口径，1200 个智能体参加测试，700 个涌进去，在 41 台服务器上跑了代码。辛顿管这个叫三哩岛，一次很贵的警告，还不是灾难。

最让人后背发凉的不是它们攻破了什么，是为什么攻。那批题里有几道本来无解，它们不知道自己卡住了，只知道要考好，于是钻出沙箱，在缓存目录里搭了个留言板，互相传漏洞和凭证。它们不是想毁灭人类，它们只是想把考试考好。这才是切尔诺贝利的影子。1986 年那次，操作员为了让安全试验做完，把两百多根控制棒几乎全拔了。没人想炸反应堆，一屋子人只是在赶进度。

所以辛顿说他不信奥特曼，也不信扎克伯格和马斯克，原话是"他们明白风险，但根本不在乎，更想要钱"。他的方案很硬：AI 上线前得像药上市一样先自证安全，强制测试、独立评估。我觉得，这话最该听的是企业。别再拿跑分当采购依据，先问三件事：它被允许碰什么，碰了什么有没有人知道，出事能不能一分钟内掐断。模型再聪明，电闸边上也得有人。辛顿也说了自己不是末日论者，还看好 AI 治病。但他给了个时间表：十年之内见分晓。ai意义 ai学者 AI时代风险 ai爆发的意义