到2025年，AI技术早已深入生活的每个角落，但谁又能料到，本该为社会带来便利的科技，却被一些人用来玩“换脸”“变声”的把戏，借机骗取大众的信任和钱财。AI克隆带货，谁在操纵流量密码去年下半年，央视主持人李梓萌出现在某短视频平台的直播间里，满脸笑容地推荐“深海鱼油”，还暗示这款产品可以缓解头晕、手麻的问题。不少中老年观众一向对央视的主持人充满信任，看到“李梓萌”亲自推荐带货，立马就下单了。等到商品送到手上，大家才发现所谓的“深海鱼油”其实就像普通糖果，没有一点保健作用。气不过的消费者一边在网络上谴责李梓萌，一边举报商家，怀疑中央台的主持人也涉入了骗局。

北京市场监管部门一查便知道了实情：李梓萌自己根本不知道这事。原来所谓的“李梓萌带货”其实是商家用AI换脸和声音克隆技术做出来的假象，效果逼真得让人分不清真假。这家企业最终被罚了126万元，还被列入黑名单，三年内不能直播。这也算是全国头一遭因为AI虚假宣传被查的案子，让大家第一次真切感受到技术被滥用的危害。李梓萌遇到的事儿，并不算个别现象。奥运冠军全红婵也同样被“AI克隆”，就连她的口音都模仿得惟妙惟肖。那些骗子编造“全红婵为家人卖鸡蛋”的故事，利用观众的同情心，制造出卖惨的场景，结果鸡蛋的销量一下子飙升。全红婵本人和家人多次说明，根本没有参加所谓的卖鸡蛋这事儿，可网上“全红婵”依旧在带货，真假难分。

更离谱的是，张文宏医生的照片被拼接到卖蛋白粉广告中，好像真的是专家亲自推荐似的，说服力十足。而演员靳东的声音通过AI合成，用在情感语音直播里，那“知心大叔”的形象吸引了不少中老年人纷纷打赏。像王楚钦、孙颖莎这些体育明星，也都被拼接到各种土鸡蛋、土特产的宣传视频里，AI换脸和配音技术让他们好像一起来帮忙为这些商品站台似的。这些事情都显示出了一个道理：AI冒充明星、专家、权威的骗局，正靠大众天生对这些人的信任，用技术手段把他们变成赚钱的工具。以前我们还能靠感觉判断真假，现在遇到AI合成出来真假难辨的内容，普通人差点都搞不清楚是真是假。

名人被AI冒名顶替，不止是名誉受到影响，更严重的还在于整个社会的信任体系开始被侵蚀。原本代表着权威和正面能量的名人形象，变成了骗子们割韭菜的工具。那些骗子们正是精准把握公众的信任，将AI当作“诈骗帮手”，把信任这个资本变成了自己牟利的手段。更让人头疼的是，要维权远比想象中难得多。就算是明星，也得费不少劲、花上好些时间才能证明事情，还要跟着折腾。像配音演员的声音被盗用，花了半年时间才找到点证据，赔偿也不过几千块钱罢了。一般人面对AI冒名侵权，往往找不到证据，想维护权益很困难。在这个AI的时代，不管是谁的形象、声音，都可能被克隆、盗用，谁都有可能成为下一个受害者。技术滥用背后的信任危机，普通人成最大受害者遇到AI冒名的乱象，国家监管机构可是迅速行动，严厉打击那些违法的公司。李梓萌事件一出来，不光涉事企业被重罚，连从业资格都被限制，向整个行业传递了个明确信号：绝不容忍！

到2025年9月，《人工智能生成合成内容标识办法》正式开始实施啦。规定所有由AI生成的内容，都得加上明显的标记，比如视频上要添加水印，音频也要嵌入数字水印。而平台方面，得严格把关，一旦发现违规内容，就得赶紧下架追责，确保事情不乱套。直播平台的技术防护也跟着升级得挺快。像主流的平台都推出了“真人动态验证系统”，这个系统能通过眨眼、微笑这些生物特征来辨别主播到底是真人，还是AI合成的。影视公司和经纪机构都积极为艺人申请数字面部和声音的版权，谁要私自侵权，就得面临法律责任。有的平台还搞了个AI内容溯源系统，一旦出现可疑的内容，能迅速找到源头，一时间就能处理掉。

明星们也没有错过这场防骗的运动，李梓萌把自己赢得的名誉损失赔偿款都捐出去，成立了“AI伦理与普法教育基金”，专门用来宣传AI带来的风险和防范措施。各地的学校和社区也在推广数字素养教育，增强大家的识别能力。越来越多的公众人物开始主动提醒粉丝：“网络上的我，不一定是真人”，全民一起来共同努力防止上当受骗。AI本来是推动社会向前、改善生活的好帮手，不过一旦偏离了规矩和道德底线，就变成了侵蚀信任、制造麻烦的利器。每次AI冒名事件，都是在消耗我们的社会信任体系那点儿脆弱的基础。明星的形象、专家的权威、正能量的影响力，这些原本是正面的东西，也被技术包装成了商品，变成了骗子谋取暴利的工具。

更棘手的问题在于，技术创新如果没有监管和底线保护，最后受到伤害的还是普通人。维权难、取证难、赔偿不高，这些都成了目前AI侵权案件的共同痛点。就算国家监管不断加强，新技术和新骗局还是不断冒出来。面对技术不断发展、手法不断翻新，坚守信任的底线，不能单靠法律，还得靠全民提升数字素养和防骗意识。令人欣慰的是，国家始终坚持“安全可控、以人为本”的方针，持续推动对AI合成内容的强制标识、平台实名认证和数字版权登记等措施，逐步营造出一个更加真实、稳定的网络环境。

文章来源：大数据舆情