不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”。伴随着人工智能飞速发展，各类乱象接连浮现，监管部门理应及时出台相关举措进行整治，不宜一味扶持行业扩张，放任技术无序铺开。每一项新兴技术都有利弊两面，人工智能同样是一把双刃剑，兼顾正向引导与规则管控，方能促使这项科技长久健康地发展。

这个转变来得太快，快到让人有点反应不过来。年初还在讨论AI能帮人类写诗作画、解放生产力，转眼间就变成了诈骗分子的帮凶、谣言工厂的发动机。技术没变，变的是人们终于看清了它那张精心伪装的脸。

湖南长沙那个被判刑的大学生吴某就是个活生生的例子。他在非法网站上买了个“AI人脸伪造视频”技术，不到四个月就盗刷了别人银行卡五万多块钱。几张静态的生活照扔进AI系统，几分钟就能生成一段能眨眼、能转头、能张嘴的动态视频，银行的人脸识别系统愣是认不出来。这事儿听着像科幻片，可它就真真切切发生在2026年。

淄博那边更狠，一个犯罪团伙直接搭建了一条AI换脸“流水线”。从境外买照片，用深度合成技术把静态照片变成动态视频，专门用来破解平台的安全核验。这帮人从2021年干到被抓获，非法解封了三万多个网络账号，获利133万。三万多个账号，每一个背后都是一个真实的人，他们的社交账号被篡改、被贩卖、被用来干各种见不得人的勾当。

湖北襄阳那伙人琢磨出了更缺德的招数。从网上搜罗政府官员和企业高管的信息，用AI换脸合成不雅照片，打印出来寄信敲诈。被抓住的时候，他们手里还压着1800多封没寄出去的信。他们自己都承认照片全是假的，但赌的就是被害人不敢声张。还真让他们赌对了——大部分受害者都选择了沉默。

AI造谣的成本更是低得离谱。有人用AI软件生成“浦东一女子在台风中坠楼”的虚假视频发到网上；有人编造“张家界大峡谷玻璃桥断裂垮塌”的谣言，吓得游客都不敢去了；还有人用AI伪造小米公司的经营性数据，三个MCN机构控制了1357个账号批量发布虚假信息。1357个账号，背后没有一个人去核实真假，全是AI生成的垃圾内容。

国家网信办今年4月启动了“清朗·整治AI应用乱象”专项行动。到7月份第一阶段结束的时候，处置了违规AI产品1.4万多款，清理违法违规信息600多万条，处置账号2.6万多个。600万条信息，每一条都可能是假的、骗人的、害人的。这个数字本身就说明问题有多严重。

五部门还在4月联合公布了《人工智能拟人化互动服务管理暂行办法》。这部办法从7月15日起施行。紧接着十部门又印发了《人工智能科技伦理审查与服务办法（试行）》。广州也准备以立法的形式明确监管原则。监管的步子迈出来了，但和AI技术狂奔的速度比起来，还是慢了一拍。

技术本身没有善恶，但用技术的人有。AI这个工具在好人手里能帮人看病、教人读书、提高工作效率；落到坏人手里就成了诈骗、造谣、敲诈勒索的利器。问题的关键不在于技术本身有多厉害，而在于我们有没有足够的规矩把它关在笼子里。一味的包容和扶持只会养虎为患，适度的约束和引导才能让这匹烈马真正为人所用。

信息来源：参考央视网《中央網信辦深入開展“清朗·整治AI應用亂象”專項行動第一階段工作》，发布时间2026年7月6日