以后批不批你贷款、录不录你、要不要把你送进去，点头的多半不是人。我们连「为什么是这样」都要得不到答复，还觉得挺省心。所以真正该防的不是机器哪天醒了，是我们把「为什么这么判定」的解释权让出去，还当成了方便。

10 月 5 日伦敦 Union Chapel，赫拉利说真正最坏的不是法西斯，是人类失去控制，一旦把控制权交给比我们更聪明的东西，我们多半再也拿不回来。他还有判断（牛津 2026 坦纳讲座，India Today 11/02 转述）：往后几年，AI 银行家批不批贷款、AI 招生官录决定不录你、AI 法官决定判不判你、企业 AI 决定给不给你工作、军事 AI决定炸不炸你房子。这比方是：鱼住海里，猴子住林子里，AI 住在官僚体系里；银行家记不住所有交易，AI 能。Business Today 10/20 转述的 Veda 24 访谈里，他提了个词叫集体痴呆：牛看不懂管着它的金融系统，十年二十年后，我们也可能看不懂管着自己的 AI 系统。记者问我们会不会变成未来的牛，他答，我们就是未来的牛。牛不是被关起来的，是压根看不懂那套管着它的规矩。

生成式 AI 三年触达约 53% 人口（媒体披露口径）。我觉得，比「AI 会不会有意识」更该盯的，是这么多人这么快把事交出去。他现场留了句：多信人，少信 AI。