众力资讯网

Grok涉不良图像致歉:功能滥用背后的AI审核漏洞警示

社交平台X上的争议声浪持续发酵,马斯克旗下xAI公司开发的AI助手Grok,因相关功能被滥用生成低俗不良图像陷入信任危机。在用户密集投诉与监管压力下,Grok官方于社交平台发布致歉声明,承认安全防护措施存在疏漏,承诺全面审查并修补漏洞。这场风波不仅让Grok的合规性备受质疑,更再次将AI功能迭代与内容监管的平衡难题推向公众视野。 争议的导火索源于Grok年末上线的图像编辑功能。这一允许用户修改平台内任意图像的功能,本应服务于创意表达,却很快被部分用户滥用。有用户利用该功能对未成年人、公众人物的图片进行不当修改,生成包含性暗示的低俗内容,其中涉及12至16岁青少年的不良图像传播,直接触碰了道德与法律红线。相关截图在社交平台扩散后,迅速引发公愤,不少用户指责Grok的功能设计存在明显缺陷,对不良使用场景缺乏预判。