之前提到央视主持人李梓萌，很多人都会因为她“贷款上班”的梗想笑。

可是现在提起她，有些网友却非常生气，因为他们以为自己被李梓萌给骗了。

堂堂央视主持，怎么会行骗呢？很多人都对此感到不解。

直到如今国家出手，大家才发现原来背后黑手另有其人。

而且不止李梓萌，连奥运冠军全红婵、孙颖莎、王楚钦等人也成了他们赚钱的“幌子”。

10月16日，随着官方通报发布，“李梓萌骗人”一事终于真相大白，果然又是“AI”惹的祸。

事情发生在2月，当时有人在北京一家公司的直播间里看到了“李梓萌”，对方正拿着一款“深海多烯鱼油”介绍功效，说能解决头晕、头痛、手脚发麻这些问题。

直播间的展板上也清清楚楚写着适合记忆下降人群，再加上央视主播的“背书”，不少消费者尤其是老年人，都觉得这产品肯定靠谱，纷纷下单。

结果等货到了手里，他们才发现这哪是什么神药，直播间的功效全是吹出来的，一点用都没有。

愤怒之下，这些消费者便将矛头指向主持人李梓萌，说她“骗人”，有人还直接向市场监管部门举报了。

接到线索后，北京海淀区市场监管局的人立刻展开调查，一查就发现了不对劲。

执法人员点进那个直播间，发现账号虽然有88万粉丝，但直播内容十分单一，只是反复播放“李梓萌推荐”的片段。

不仅如此，视频中的“李梓萌”行为举止，还存在一些不自然的部分，让该视频的真实性被画上了一个大大的问号。

对此，执法人员联系了中央广播电视总台，那边很快给了答复，说根本没这回事，就连李梓萌本人都是懵的，因为她对此毫不知情。

原来，这家公司是从网上扒了李梓萌的新闻片段，用AI技术加工合成了这段虚假视频，连声音都是模仿的。

而且除了直播内容是假的之外，该产品本身也有问题。

执法人员查到这款鱼油的执行标准其实是糖果，就是普通食品，压根没有任何治疗功效。

用AI冒充央视主播，还把糖果吹成药品，这波操作既骗了消费者，又砸了主流媒体的公信力。

到了6月份，这家公司被正式处罚，罚了20万，这也是北京查处的第一起AI虚假广告案。

不过这次“公开处刑”案例，其实只是曝出了AI造假乱象的冰山一角。

就在李梓萌被仿冒的消息传开后，不少人才发现，原来还有大把公众人物遭了殃。

比如奥运冠军全红婵，就有人用AI克隆了她的声音，在短视频里卖起了土鸡蛋。

那些视频里，“婵宝”一口一个“粉丝们尝尝”，说要帮妈妈改善生活，还提到自家鸡蛋是散养的，营养很高。

不知情的粉丝看着心疼又信任，纷纷下单，光一个链接就卖了4.7万件。

直到全红婵的哥哥站出来辟谣，说妹妹从没代言过任何农产品，大家才知道被骗了。

但即便如此，还是有骗子把AI合成的全红婵照片印到鸡蛋包装上，在线下接着骗，一波又一波，防不胜防。

除了全红婵，孙颖莎和王楚钦也没能幸免。

有个账号仿冒孙颖莎的声音，说“我为婵宝家鸡蛋代言”，还仿冒王楚钦说“婵妹让我给粉丝带福利”。

这些视频点赞量最高的有1.1万，不明真相的粉丝在评论区里留言支持，压根没察觉是AI在说话。

甚至，连医生和逝者也成了目标……

知名医生张文宏曾被AI换脸，用来推销蛋白棒，骗子甚至还伪造了他的工作室和虚假健康报告。

有网友发现，连已故的“茶界泰斗”张天福都被“复活”了，AI合成的视频里，老人“现身”为茶企代言，这事儿让不少人觉得既愤怒又心寒。

为啥这些骗子这么嚣张？据央视报道，现在AI克隆技术太容易上手了，只要有十几秒清晰的语音或视频样本，就能复制出几乎一样的声音和形象。

而且靠着仿冒名人，一个新账号很快就能涨粉上万，不管是带货还是打赏，赚钱的速度特别快，这就催生了一条灰色产业链。

听起来是不是十分惊讶？AI+道德无下限，真的可以让坏人无法无天。

不过好在国家已经出手整治了。

李梓萌的案子查处后，市场监管、公安、网信办等好几个部门联手行动，不光抓涉案公司，还逼着平台升级技术。

现在不少平台已经能自动识别AI合成内容，视频右下角会直接显示“AI生成”，文件里还藏着数字水印。

就算转发到别的平台，也能查到是谁做的、什么时候做的。

9月1号，《人工智能生成合成内容标识办法》正式施行，明确要求所有AI做的内容都得“亮明身份”。

市场监管部门还放话，接下来会曝光更多违法案例，不管是冒充名人还是打造虚假人设，只要敢用AI骗人，肯定要被查。

有网友询问，除了“事后处罚”，是否有某些技术手段能够“事先预防”骗子呢？

其实现在已经有办法了，比如用区块链技术固定原始数据，防止骗子篡改标识。

而且现在短视频平台也优化了识别技术，现在再刷那些AI视频，已经能看到不少都增加了“AI生成”的标识。

公安还总结了个简单的识别方法：要是看到视频里的人转头不自然，声音听起来有点发飘，那就得多留个心眼，十有八九是AI合成的。