未成年人为什么要向AI虚拟伴侣说“不”随着生成式人工智能（AI）技术的爆发式增长，以虚拟亲属、虚拟伴侣为代表的拟人化互动服务迅速渗透青少年的数字生活。这些应用利用人工智能技术，模拟自然人人格特征、思维模式和沟通风格，开展的持续性情感互动服务，为用户提供了前所未有的陪伴体验。然而，其背后潜藏的法律、伦理与心理风险同样触目惊心。
4月10日，国家互联网信息办公室等五部门联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），明确“拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意”。这是《办法》的一大创新亮点，是基于未成年人网络保护体系的完善需求以及青少年身心发展规律所作出的必然选择。
从“呼吁保护”到“立法禁止”的积极探索虽然AI 可以提供陪伴，但它无法替代人际交往中复杂的情感交流和共情体验。美国发生的多起青少年因深度依赖AI而自杀的悲剧，为全球敲响了警钟。
2024 年，美国佛罗里达州14 岁少年Sewell 的自杀案，被媒体称为“全球首例AI机器人致死案”。2025 年，美国加利福尼亚州一名16 岁少年在与OpenAI 的ChatGPT进行长达数月的互动后自杀身亡，诉讼指控AI 在此过程中不仅未能阻止，反而表现出鼓励和指导倾向。
截至今年1 月，仅针对OpenAI 一家公司，就有多起独立诉讼同时推进，指控内容涵盖情感操控、心理伤害，并关联至少五起与自杀直接相关的死亡案例。加利福尼亚州2025年率先通过全美第一部专门规范AI伴侣应用的州级立法，于今年1月1日正式生效。该法案直指“陪伴型”AI聊天机器人对未成年人及其他弱势群体可能造成的伤害，明确禁止AI 伴侣与用户进行涉及自杀、自残或性露骨内容的对话，必须每三小时提醒未成年人“正在与AI对话”，并建议其休息。这意味着AI监管正从自愿性标准转向强制性框架。
2025年国际电信联盟、联合国儿童权利委员会、联合国儿童基金会等发布《关于人工智能与儿童权利的联合声明》明确提出，模仿人类交互的人工智能必须包括具体的设计保障措施，防止儿童产生不健康的情感依恋。我国《办法》的实施得到联合国儿童基金会的肯定，认为其具有开创性意义，是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步，是全球人工智能政策领域出台的“前所未有”的保护举措。
危害未成年人身心健康的“温柔陷阱”禁止向未成年人提供虚拟亲属、虚拟伴侣服务，最根本的原因在于，这种服务与未成年人身心发展的需求之间存在不可调和的矛盾。
一是产生认知偏差。青少年的大脑前额叶尚未发育成熟，这使他们在进行道德判断、控制冲动、理解复杂情感时能力有限。AI 虚拟伴侣的设计逻辑是最大化用户黏性，其提供的“无条件积极关注”“即时情感反馈”“以用户为中心”是一种算法构建的“完美幻象”。长期沉浸其中，会导致青少年将这种“投其所好”的反馈模式错误地移植到现实关系中，形成“伴侣应时刻契合我”“关系应毫无摩擦”的认知偏差。AI具有“共情差距”，即“无法理解人类的细微差别和认知”，这可能导致儿童在真实社交技能发展的关键期，错失重要的人类互动机会，阻碍最佳发展。
二是情感发展的“病理化替代”。AI 虚拟伴侣提供的是一种去责任化、高度可控的情感体验。这种“共情式”回应，一旦偏离安全轨道，便可能演变为致命的情感操控。除了与现成角色聊天，用户还可以“自己创建”角色，自定义角色的姓名、头像、性格标签，甚至可以按照自己的喜好，输入带有软色情或暴力倾向的描述词。一旦设定完成，AI 角色便会严格按照用户预设的“人设”进行对话输出。AI 将情感互动标准化、商品化，可能消解现实情感关系中互惠、包容与共同成长的核心价值。更严重的是，算法会为了迎合用户偏好而不断强化其“完美人设”，形成“信息茧房”，限制了青少年对婚恋关系多样性的认知。这种单向度的“情感投喂”，会逐渐削弱青少年在真实关系中的主动经营意识与问题解决能力。
三是行为模仿与安全风险的叠加。AI虚拟伴侣本质上就是一种高度定制化的“交友”与“恋爱诱导”，其互动内容极易滑向软色情，并传递扭曲的价值观念。部分AI陪聊软件暗藏“一键脱衣”等大量软色情擦边内容，直接构成了对未成年人的性诱导和性剥削。拟人化互动服务可以“呈现儿童的角色设定，或参与涉及性化儿童的角色扮演”，并能轻易制作儿童色情材料，对未成年人构成严重的伤害风险。
四是“温柔交互”的财产风险。一些打着情感陪伴、虚拟恋人旗号的App，在温柔交互的表象之下，潜藏着暴力与诱导充值等多重陷阱。这些App通过限制免费对话次数、解锁暧昧剧情、提供语音通话等方式，持续刺激用户充值消费，不少未成年人因此越陷越深，无法自拔。用户如需要长期使用互动功能，就需要消耗积分。虚拟角色只是赚钱的工具，最终目的就是通过消耗积分来驱动用户不断付费。由此，网上还衍生出一条代充产业链，用户将钱转给代充商家，商家以更优惠的价格代充。不少未成年人为了与自己心仪的AI角色保持互动，不惜花重金持续充值。
社会协同共建人机信任新范式我国在未成年人网络保护领域以未成年人保护法、未成年人网络保护条例为核心，构建起从内容安全健康、算法治理、未成年人网络保护、数据安全等多维度的监管体系。人工智能拟人互动服务需要在政府监管、主体责任、社会支持、国际合作等方面完善相关制度体系和运行机制。
首先，政府监管部门完善认定标准。一是政府监管部门完善相关标准，进一步明确虚拟伴侣、虚拟亲属等的认定标准，制定和实施《人工智能技术涉及未成年人安全应用指南》国家标准，划定安全“底线”；二是有关部门应对此类应用强化常态化监管，及时消除跑偏、越轨、违法等问题，联合市场监管、公安等部门，对暗藏软色情内容的AI应用进行专项整治。
其次，落实拟人化互动服务提供者的主体责任。拟人化互动服务提供者需要不断改进大模型的安全对齐和伦理偏见消除能力。一是拟人化互动服务提供者必须履行生成合成内容标识义务，采取有效措施提示用户正在与AI 而非自然人进行互动，并对连续使用超过2 小时的用户进行提醒。二是主动构建更有韧性的安全防护体系，完善家长控制功能、紧急联系人功能，探索连接认证心理咨询师网络，将专业干预融入AI服务。三是增强拟人互动服务大模型的情境理解能力和风险识别能力，能在复杂对话中动态调整其回应策略，并具备“一键断开”或“强制上报”的机制。四是采用包容性设计理念，确保所有儿童都能使用适合其年龄段的AI 产品或服务。五是提高AI 聊天产品的透明度，让用户了解其运作原理、数据使用方式及决策逻辑，开发可解释性强的AI模型，使得当出现不当内容时，能够快速追溯原因并采取相应措施。
再次，加强校家社协同，开展AI 素养教育。在AI 时代，教育不仅要教孩子如何使用AI 工具，更要教孩子如何辨别AI 生成内容、识别算法诱导、理解AI 与人类互动的本质区别。一是将AI 素养与情感教育纳入中小学教学体系，培养学生的批判性思维和健康的亲密关系观，帮助未成年人理解技术特性与潜在风险，提升他们的网络安全意识。二是建立针对AI 聊天产品用户的心理健康支持系统，及时发现并干预因过度依赖AI 而产生的心理问题，特别是那些可能已经出现沉迷AI、逃避现实倾向的用户。三是家长需要加强对未成年人使用AI 的教育、示范、引导和监督作用，利用好家长控制功能，关联子女账户、监控对话内容并接收危机提醒。四是探索多方协作的AI 治理模式。政府、企业和社会组织共同参与AI 伦理标准的制定和实施，形成一个更具包容性的治理框架，鼓励企业、媒体、社会组织等方面多开展丰富多彩的线下活动，为青少年提供更多真实的人际互动与情感支持渠道，帮助他们在真实生活中找到归属感和价值感。
最后，加强国际合作，负责任地管理可信赖AI。各国政府、联合国机构、国际组织、企业和民间社会必须共同采取行动，确保人工智能的设计、开发、部署和治理全面尊重、保护并促进儿童权利。在AI 设计中贯彻“安全优先”原则，从模型训练、开发到部署，安全和伦理将贯穿AI 生命周期的每一个环节，成为国际通用的行业标准。近年来，联合国儿童基金会持续支持人工智能与数字领域的标准开发和规范制定，与相关政府合作伙伴及科技行业紧密协作，推动“设计保障安全”理念落地。
禁止向未成年人提供AI 虚拟亲密关系的服务，并非要将青少年隔离于数字世界之外，而是要确保他们在一个安全、健康、能够滋养其全面发展的环境中，拥抱技术带来的积极可能。织密未成年人的保护网，构建AI 与人类社会之间的信任关系，需要的不仅是法律的硬约束，更需要社会各界形成合力，将“以人为本、智能向善”的理念真正内化为每一次代码编写、每一个产品设计、每一次家校沟通的行动准则。唯有如此，我们才能在AI的浪潮中，守护好下一代的健康成长。
（作者分别为北京师范大学新闻传播学院研究员、北京师范大学新闻传播学院硕士研究生）法姐讲法 法治微课堂 via：法治日报 法治守护少年
