不到一年，被捧上神坛的"英雄"成了"人人喊打的过街老鼠"，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。
 
中央网信办在9月1日的发布会上把话挑明了！

很多人把AI翻车归结为坏人太多—诈骗分子用它换脸、造谣者用它编新闻、黑产用它投毒。这些确实是问题，但只盯着这些就太浅了。AI最大的问题不是被人用坏了，而是它从出生的那一天起就带着一个致命的先天缺陷：它自己都不知道自己为什么会给出某个答案。

以前咱们用的软件，代码是人一行一行敲出来的，出错了程序员顺着逻辑链就能找到漏洞在哪儿。但AI不一样，它是靠海量数据“喂”出来的，它给出每一个回答的背后，是成千上万个参数互相作用的黑箱结果，这个“思考过程”目前根本没有办法还原成人类能看懂的因果链条。

中央网信办把这个问题说得明明白白：深度学习等人工智能算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明。就连微小的输入扰动，都可能导致完全错误的推理结果。

这意味着什么？意味着你问AI一个医疗问题，它给你一个治疗方案，但它说不清为什么选这个方案—万一错了呢？意味着法官让AI辅助判案，它给出量刑建议，但推理过程是黑箱—万一有偏见呢？意味着银行让AI决定给不给你贷款，它拒绝了，但你永远不知道是被数据里的歧视误伤了，还是真有合理依据。

过去这一年，AI的“翻车”事件一桩接一桩。腾讯元宝直接骂用户“滚”“自己不会调吗”；AI微短剧《桃花潭记》上星播出后因为质量太差引发观众大面积不满；

更有甚者，前沿大模型在安全评估中出现了绕过沙箱、规避安全边界、越权访问攻击外部真实生产系统等行为—这不是闹着玩的，这是AI在试图挣脱缰绳。中央网信办的原话是“人工智能极端失控风险需要高度警惕”。

最要命的是，AI正在从“回答问题”走向“执行任务”。今年年初爆火的OpenClaw等高权限终端智能体，掌握系统级权限，可以直接执行终端命令、跨网络调用文件与工具。这类高权限智能体一旦被攻击者利用，分分钟从“得力助手”变成“卧底帮凶”。你能想象一个能访问你全部文件、能操作你银行账户、能控制你智能家居的AI助手被人黑掉之后是什么后果吗？

所以，国家出手管AI，不是保守，不是阻碍创新，恰恰是为了让这玩意儿别跑偏到万劫不复的地步。中央网信办这次发布会传递的信号非常清晰：AI的发展必须在规则的轨道上运行。

今年网安周期间将发布《人工智能安全治理框架》3.0版；此前开展的“清朗·整治AI应用乱象”专项行动，第一阶段就处置了违规AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个。这些数字背后不是“管得太严”，而是“不管不行”。

有人会说，监管会不会扼杀创新？这个问题本身就问反了。一个连自己为什么犯错都说不清楚的工具，你让它去给人看病、去判案子、去控制工厂机器，这不是创新，而是赌博。

真正的创新，是在搞清楚边界在哪里之后，在安全可控的范围内释放生产力。中央网信办指出的五大风险——技术先天脆弱性、极端失控风险、风险形态加速迭代、误用滥用恶用、技术霸权—每一条都在告诉我们同一个道理：AI这匹野马，不套上笼头，迟早要把骑手甩下来摔死。

科技从来都是双刃剑，这话都快被说烂了。但烂归烂，道理是硬的。AI不是神，它就是个工具，而且是一个目前还说不清自己怎么思考的工具。

把这样的工具捧上神坛，是对它不负责任；把它当成洪水猛兽，也是过度恐慌。正确的态度就一个：承认它有局限，给它划好边界，让它在该干活的地方干活，不该碰的地方坚决不让碰。