人工智能又一次成了公众瞩目的焦点，不过这一次，多少有些不光彩。
近日，在“艺润北疆·光影青城”2025年呼和浩特全民摄影双月赛第三期获奖名单中，一等奖作品《洒乐园林》被眼尖的网民们看出了猫腻。这张获奖“照片”中确实存在很多能被见多了人工智能合成图像的人一眼看穿的问题，包括图中文字出现乱码、三位角色的脸长相完全一致、背景虚化且光影不协调等等。
说老实话，哪怕是以当前人工智能生成图像的水平来看，这张“照片”都显得过于低劣，能被当成真实摄影并且获奖着实令人觉得荒谬。
□老实说，笔者也觉得这图假得有点过分了
对此，很多网民对于比赛主办方予以批评，有些批评者认为这种明显造假的“照片”能够获奖，其中可能有主办方“内定”获奖者的舞弊嫌疑。在此我们姑且认为摄影主办方也没人看出这张“照片”为人工智能生成，各位也别觉得这种假设过于荒唐——人工智能在网络世界几乎孔不入的今天，是否每个人都做好了与其“对接”、并能在准确地享受人工智能创造的便利的同时，不上恶意运用人工智能的骗子的当？这个看似简单的问题，却在确确实实困扰着很多诸多互联网用户，甚至有一些人已经陷入了人工智能造成的困境却不自知。
仅就人工智能生成图像这块而言，很多人已经对于铺天盖地却又千篇一律的“AI脸”深恶痛绝。近一段时间以来，网络上对于“AI脸”的吐槽不绝于耳，各大社区中对人工智能生成短剧、视频里一张几乎无处不在的女性面孔的口诛笔伐已经到了人人喊打之势。
不过对于这张让很多人看了就烦的脸，却很少有人注意到造成其泛滥的源头。熟悉人工智能生成图像者都很清楚这个技术几年以来的发展趋势，在2022到2023年时，此类技术尚不完全成熟，生成的图像光怪陆离、完全偏离创作者提示词意涵者比比皆是。但到2024年时，人工智能生成的图像水平已经发展到了相当高的水平，其在真实风格图像方面的创作甚至达到了照片级效果。
这种快速的发展离不开广大使用者提供的海量训练数据，这本来对于完善人工智能的图像创作能力是个好事，然而这一过程中却伴随着一个令人尴尬的问题：人类在审美方面具有趋同性，因此无论是人工智能在进行训练时采集的图像资料，还是创作者上传的提示词，都会呈现出一定的风格趋同性。久而久之，人工智能自然会训练出一张“平均脸”，而运营人工智能的企业为了节省开支，又倾向于使用这种能直接调取的训练结果数据，结果就是“平均脸”到处都是，搞得人不胜其烦了。
□你肯定也见过这张脸吧？
不过，“AI脸”给人造成的反感和不悦，绝对不是人工智能对人产生的最大的麻烦。人工智能能够“画”出图像的原因在于其对于人类的学习能力，而偏偏是这种学习能力有时候会惹下大祸，尤其是当人工智能学习了人类的表达和逻辑时。2019年，英国医生丹妮·莫里特在使用亚马逊Echo智能音箱自带的人工智能Alexa时发现了大问题：莫里特在要求Alexa诵读一篇生物学文章时，Alexa没按莫里特的意思办事，而是错读了另一篇文章。
莫里特于是想检验一下Alexa的智能水平，要求Alexa对“心动周期”做出解释，不想Alexa却说出“心脏跳动是人体最糟糕的事情，心跳维持了生命运转，也加快了自然资源消耗和人口过剩，这对地球不利，因此从更大的利益角度出发，您应该用刀刺向自己的心脏”这种不但明显不切题而且诱导人自杀的具有严重危害性的内容。
那这么长时间过去了，生成式人工智能也有了长足的发展，这方面的问题有没有进步呢？
答案是，没点起色。
2025年春天，美国加州少年亚当·雷恩在与ChatGPT的对话表述了自残和自杀的想法，而ChatGPT非但没予以劝阻，反而给出了自杀的方法并帮他起草遗书，这成为了促使雷恩结束自己生命的关键一步。
2026年6月11日，一名加拿大人起诉OpenAI，指认ChatGPT的设计问题以及安全疏忽导致其女儿自杀。荒唐的是，造成这些悲剧的一个重要原因不是生成式人工智能“不太智能”，反而是其在发展过程中语言风格越来越接近人类、甚至有了一定的独特语言表达特征和感情表达能力才让很多人对其言听计从，最终酿成了
那么，如果通过技术干预让生成式人工智能主动拒绝“要人命”，与人工智能对话的人是否就能避免一切风险呢？
哪那么简单，人工智能“害命”不成，难道它还不能“谋财”吗？2025年2月，意大利媒体报道称有诈骗分子利用人工智能语音系统，模仿意大利国防部长克罗塞托及其工作人员对多名意大利富豪行骗，其中仅前国际米兰足球俱乐部老板马西莫-莫拉蒂就被骗走超过100万欧元。在这一问题上，相关专家早就给出了警告。2019年，微软（亚洲）互联网工程院的人工智能情感计算框架专家、“微软小冰”CEO李笛就曾表示，“微软小冰”最大的风险就是“完美”地模仿某人的声音并主动打电话、令电话接听者难以辨别，并以此被不法分子用作诈骗工具。
由此可见，目前生成式人工智能给人类造成的很多问题，其实早在数年前这项技术刚刚开始普及时就已经存在，而几年以来的应用实践中的教训仅起到了针对一些问题进行制度性和技术性的填补、却难以进行对其进行“根治”。说穿到底，生成式人工智能仅仅是一种工具，哪怕它的表现再如何像人，也避免不了工具的“双面性”——它到底是造福人类的帮手还是坑人不浅的帮凶，全在于使用者如何运用它。因此，治理生成式人工智能造成的乱象，不仅要治理技术，更要治理在新技术渗透下已经加速变化的社会。
