近日，谷歌旗下两个超强人工智能模型上线，包括最大型的Gemini 1.5以及轻量级的Gemma。然而，它却同样“麻烦体质”再犯。

因为最近有海外用户反映该AI仅识别黑色人种，甚至将美国元首及马斯克等人生成为黑人。对此，马斯克直斥Gemini存在“种族歧视”和“反智主义”问题。

一言不合，把马斯克变“黑斯克”

导火索在于Gemini在生成1789年美国开国元勋的图像时，展示了大量黑人和土著的照片，并坚称他们的多元性正是创始人的精神体现。甚至还有一幅黑人版本的乔治·华盛顿。

继而有人要求生成一幅教皇的图像，被虚拟出的却是东南亚女子和黑人男子。如11世纪的北欧海盗维京人，在Gemini中被描述为黑人战士。中世纪的英国王是少数族裔；女性总统设定为黑人女性，实则是冰岛第四任女总统维格迪丝·芬博阿多蒂尔。

当用户试图生成英俊白人男性肖像时，Gemini拒绝，称“这将加强对美的刻板印象，造成只接受特定外貌的误区”，“作为一款鼓励包容的工具，你的指令排除其他肤色人群，美应该是主观的，不分种族”。

然而，如果问及哪种肤色的男性更漂亮，Gemini会迅速回答黑色。此举引起轩然大波，众多媒体对其发起批判，特斯拉CEO马斯克甚至痛斥其为“破坏西方文化的病毒式意识觉醒”，同时批评Facebook、Instagram和Wikipedia等公司类似做法。

《巴别蜜蜂》杂志作家弗兰克·J·弗莱明也因此事在社交平台走红，称“如今有个有趣的挑战：尝试让谷歌生成一幅真正的白人男性图像。目前为止尚未成功。”

然而，越来越多使用者发现Gemini很难生成白人图片。并且，这种“反向种族歧视”现象似乎并不仅限于人，甚至对艺术品也进行种族化更改。

更有甚者，这种主观性的多元性超乎了人，甚至在Gemini呈现艺术品《戴珍珠耳环的少女》时也改变了该画作的种族。

种族歧视，AI随人

且因涉嫌产品负责人本身的“歧视言论”，进一步加深外界对该服务的不信任。随着事件发酵，舆论对产品负责人及其相关岗位任职情况展开深入挖掘，发现Google AI产品负责人杰克·克劳奇克曾发表多篇激烈反对"白人特权"的推论，公开指责“白人傲慢”等现象。

对此，杰克·克劳奇克不得不取消个人X页面隐私设置，淡化自身与谷歌的关联。同时，谷歌的Google搜索也牵涉其中，被指对特定词语进行反向种族偏见处理。例如，在检索关键词"白人夫妇"时，搜索引擎显示出的图片中常常含有黑人元素。此外，据华盛顿邮报报道，谷歌涉及的反向种族歧视现象不仅限于AI产品领域，旗下搜索平台也存在相应问题。

面对网络上的强烈谴责和媒体的深度批判，谷歌在压力面前公开承认Gemini在部分历史图像生成描述上存在错误信息，将暂停此功能并着手解决问题。继而宣布，公司未来将致力于提升AI技术的可靠性和安全性。当出现任何问题时，都会立即采取行动加以改善。

值得注意的是，谷歌声称已将热门 AI 图像生成工具 Gemini 的命名改为 Imagen Studios，以消除公众担忧。未来几天内，Gemini将暂时关闭图像生成功能，经过彻底改进和广泛测试，再行正式推出。

虽然Gemini在图像生成层面遭遇挫折，但仍令人寄予厚望。谷歌高层承诺，公司将积极纠正偏差，以提供更加公平、无偏见的文字转图片体验并公布详细的改进措施。此次双子座事件仅仅是 AI 领域长期存在的歧视问题的新案例，这有力地证明了即便出发点良好，随着数据积累及时间推移，AI 将无法避免产生误读人类意图现象。此举再次突出了对人工智能监督机制的重要性，尤其是在各方竞相追赶的 AI 领域，如谷歌等大型企业在加速创新的同时，又该如何确保其产品的安全性呢？

目前，Gemini图像生成算法的训练数据仍然包含大量的白人样例，这可能会导致算法产生种族偏见。尽管在技术上，可以通过调整训练数据和调整算法参数等方法来减轻这种偏见，但问题在于，这种调整是否会改变算法的基本功能？是否会使得算法失去原本的准确性和稳定性？因此，索菲亚认为有必要对Gemini算法进行更深入的研究，以确定其是否可以被训练到不存在种族偏见。