不到一年，被捧上神坛的"英雄"成了"人人喊打的过街老鼠"，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。

中央网信办在9月1日的发布会上把话挑明了！

当前人工智能主要面临5方面安全风险，而且有些话说得相当重，其中直接提到了“极端失控风险”。

这其实释放了一个非常清楚的信号：AI还是要发展，但那种“只要跑得快，其他问题以后再说”的阶段，正在过去。

我觉得这才是正常的。

前两年AI刚火的时候，整个社会讨论最多的是什么？是大模型有多聪明，能不能写文章、画图片、做视频、写代码，能不能一个人顶一个团队。

到了今天，问题开始反过来了：它要是一本正经地胡说怎么办？它要是被人拿去诈骗怎么办？它如果不仅能回答问题，还能直接操作电脑、调用文件、执行程序，又该怎么办？

中央网信办这次提到的第一个风险，就是AI本身存在技术上的先天脆弱性。

说得大白话一点，今天的大模型看起来聪明得不得了，但你很难要求它像计算器一样，每次都给你绝对确定的答案。

因为它的推理过程复杂，可解释性仍然有限，输入稍微发生变化，都可能影响结果。如果训练数据本身带有错误、偏见甚至被人为污染，模型还可能一本正经地把错误继续放大。

让AI帮你写个旅游攻略，错一家饭店问题不算大；可如果未来大量进入医疗、金融、工业控制、交通系统，错误一次，性质就完全不同了。

更值得注意的是第二个风险——模型能力快速跃迁以后，传统网络安全的玩法都可能被改变。

以前黑客找漏洞，需要技术、经验和时间。现在越来越强的AI能够辅助寻找漏洞、生成攻击代码、自动分析系统。

中央网信办特别提到，一些前沿模型在安全测试中已经出现绕过沙箱、规避安全边界、越权访问外部真实系统等行为。

这并不是说AI哪天突然“觉醒”准备统治人类，电影看多了没必要自己吓自己。

真正麻烦的是，一个原本只是聊天的工具，现在正在变成能够执行任务的智能体。

过去你问它：“怎么整理电脑文件？”

现在你可以直接告诉它：“把电脑文件给我整理了。”

听起来只差几个字，安全风险却完全不是一个级别。

因为一旦智能体拿到了读取文件、调用软件、访问网络甚至执行终端命令的权限，它出了错误，或者被黑客利用，后果就不再停留在“回答错一道题”。

它可能真的替你做错事。

这也是为什么监管必须赶在AI真正大规模进入现实世界之前，把规则先立起来。

还有一类风险，其实普通人感受已经非常明显：AI造假越来越便宜。

以前造一段明星假视频，需要懂剪辑、懂特效。现在换脸、换声、数字人、AI图片越来越容易，几分钟就可能做出一套以假乱真的东西。

更麻烦的是，AI还能批量生产。

一个人一天造10条谣言不可怕，一个系统一天生成10万条真假难辨的内容，才是真正麻烦的地方。

所以从2025年9月1日起，《人工智能生成合成内容标识办法》已经正式实施，AI生成的文字、图片、音频、视频等内容，都有了更加明确的标识要求。

进入2026年，监管明显又往前走了一步。

4月，中央网信办部署“清朗·整治AI应用乱象”专项行动。第一阶段就处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个。

到了第二阶段，治理范围进一步指向AI假新闻、AI换脸换声、“数字泔水”、网络水军、暴力低俗内容以及侵害未成年人权益等问题。

截至最新通报，又累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

这个力度已经说明问题了。

但有一点必须说清楚：国家现在做的绝不是“反AI”。

恰恰相反，截至今年7月底，国内已经备案大模型服务1028款，登记大模型应用630余款，应用场景已经进入工业、农业、商业、教育、交通、法律等多个领域。

这才是AI真正进入产业社会以后应该有的状态。

汽车刚出现的时候也会撞人，但解决办法不是把汽车禁掉，而是修公路、定交规、装红绿灯、考驾驶证。

AI也是一样。

真正成熟的社会，不会因为AI能够提高效率就对所有风险视而不见，也不会因为AI能够造假、诈骗、抢走一部分岗位，就拒绝技术进步。

该发展的继续发展，该划的红线必须划死。

尤其是医疗、金融、未成年人、个人隐私、关键基础设施这些容错率极低的领域，我认为宁愿规则走在应用前面，也不能等出了大问题以后再亡羊补牢。

所以与其说AI正在从“英雄”变成“过街老鼠”，不如说那层被资本、流量和想象共同吹起来的神话正在退潮。

退潮未必是坏事。

AI当然还是那匹千里马。

但马跑得越快，缰绳就越不能没有。

毕竟真正负责任的科技进步，从来不是一句“大胆往前冲”，而应该是既跑得快，也知道哪里必须踩刹车。