还不到一年，曾经被高高捧起的“英雄”，如今却变成了人人避之不及、甚至群起声讨的对象，这也说明AI发展确实到了该加强规范和管理的时候，不能只看到它的便利和效率，就一味鼓励推广，任何新技术都有两面性，AI同样如此，科技从来都是一把双刃剑，用好了能造福社会，用不好也可能带来新的问题。
 
不到一年，很多人对AI的态度确实变了，去年还在惊叹它能写文章、做视频、画图片，今年越来越多人开始担心自己看到的脸是不是真的、听到的声音是不是本人，我认为这不是大家突然反科技了，而是AI从新鲜玩具进入现实生活以后，风险终于和便利一起摆到了桌面上。
 
最明显的就是诈骗，公安机关早在2023年针对AI换脸犯罪开展专项行动，当时就侦破相关案件79起、抓获犯罪嫌疑人515名，只不过那时候很多普通人还觉得AI诈骗距离自己很远，如今语音克隆、换脸视频越来越容易制作，这种风险已经越来越接近每个人的手机。
 
我认为真正可怕的不是骗子突然变聪明了，而是造假的成本被技术大幅降低，过去冒充一个熟人至少还得模仿声音、准备照片，如今一张正脸照片加几秒公开语音就可能成为犯罪素材，所以未来接到亲友突然借钱的视频电话，看到脸、听到声音都不能再自动等于身份已经确认。
 
假消息的问题同样越来越突出，2025年就有人利用AI编造海啸来袭以及30万上海居民向苏州、无锡转移等虚假内容，这类谣言最麻烦的地方就在于画面越来越像真的，一条传统文字谣言可能几分钟就被识破，可一段人物、声音和现场全部合成的视频，对普通人的迷惑性明显更强。
 
更让人警惕的是，AI甚至开始被反过来操纵，今年媒体调查发现，有营销机构通过制造大量虚假网页和内容影响大模型回答，只需要花几百元，就可能让一家没有资质、没有地址、没有真实团队的虚构机构进入AI推荐结果，我认为这已经不是普通广告，而是在污染未来越来越多人依赖的信息入口。
 
所以今天再讨论国家该不该管AI，其实已经晚了一步，因为我国从2023年开始就实施《生成式人工智能服务管理暂行办法》，明确提出发展和安全并重、促进创新和依法治理相结合，同时要求平台处理违法内容、保护个人信息并建立投诉举报机制，也就是说政策从来不是只鼓励发展而不谈风险。
 
而且从2025年9月1日起，《人工智能生成合成内容标识办法》已经正式实施，AI生成的文本、图片、音频和视频需要按照规定添加显式或者隐式标识，今天正好满一年，我认为这个制度非常重要，因为未来判断内容真假的第一步，就应该先让用户知道它到底是不是机器生成的。
 
监管力度也在不断升级，2025年中央网信办专项行动第一阶段处置违规AI产品3500余款、清理违法违规信息96万余条，可到了2026年新一轮专项治理第一阶段，处置的违规AI产品已经达到1.4万余款，违法违规信息超过600万条，这组数字本身就说明AI乱象增长速度有多快。
 
在我看来，这恰恰证明AI不能只靠企业自觉，因为模型为了抢用户会追求功能越来越强，内容平台为了流量又可能降低传播门槛，如果违法成本始终追不上技术获利速度，那么换脸、拟声、数据投毒和虚假信息就会不断换一件衣服重新回来，所以监管必须跟着技术一起升级。
 
版权同样是一道必须补上的规则，最高人民法院已经把AI换脸侵权案件列入知识产权典型案例，并明确指出利用AI技术并不能成为侵犯他人著作权的挡箭牌，生成式AI服务商在特定情况下同样负有合理注意义务，我认为这就是在告诉行业，技术创新绝不意味着原来的权利全部失效。
 
当然，我也坚决不赞成为了防风险就把AI一棍子打死，因为AI正在科研、制造、教育、医疗辅助、工业设计等领域创造真正价值，治理的目标从来不是让中国少发展AI，而是让好技术敢用、能用，同时让拿AI诈骗、造谣、侵权的人付出足够高的成本。
 
真正成熟的科技政策，我认为应该像给高速公路装护栏一样，汽车跑得越快越需要明确车道、限速和责任规则，没有人会因为交通事故就禁止汽车，同样也不能因为AI出现乱象就拒绝技术进步，可如果只顾着把速度提到200公里，却连护栏和刹车都没准备好，那才是真正的不负责任。
 
所以AI并没有从英雄突然变成过街老鼠，我们只是终于从最初的新鲜感里清醒过来了，我认为下一阶段真正应该做的，是继续完善实名追溯、生成标识、平台审核、版权保护和违法追责，让普通人能够分辨什么是真的，让企业知道哪些红线不能碰，也让真正做技术创新的人不必替滥用者背锅。
 
科技从来都是一把双刃剑，刀本身没有善恶，关键看握在谁手里以及有没有规则约束，我认为一个真正强大的AI时代，不应该是人人害怕自己被骗，而应该是技术越来越先进、规则同样越来越成熟，最终让AI成为人的工具，而不是让普通人成为技术失控之后承担代价的人。
 
对于这件事你怎么看？欢迎在评论区留言讨论，说出您的想法！