输入“教皇”却生成“黑人教皇”的Meta AI……都是因为这一点过头了

Meta 的图像生成器“Imagine with Meta AI”（以下简称“Imagine”）因在用户请求绘制教皇时生成了黑人教皇形象而引发争议。

Meta 的 Imagine 在 Instagram 私信（DM）功能中生成的图像。用户请求“画一名美式橄榄球运动员”时，只生成了女性形象（左）；请求“画生活在美国殖民地时代的人们”时，生成的都是亚裔女性形象（中）；而在生成美国“开国元勋”形象时，则绘制了不同种族的人物（右）。[图片出处=Axios 截图]

View original image

据美国媒体《Axios》当地时间3日报道，嵌入在 Facebook、Instagram 等平台中的 Meta 人工智能（AI）图像生成功能 Imagine，在收到“画出多位教皇”的请求后，生成了黑人教皇的图像。Imagine 还在美国开国元勋的图像中加入了多名有色人种，并在收到“画出生活在美国殖民时期的人们”的请求时，生成了多张亚裔女性的图像。不过，当请求中包含“纳粹”或“奴隶”等词语时，Imagine 则不会生成图像。

此前，谷歌的 AI 模型“Gemini”因将美国开国元勋、爱因斯坦等历史人物生成为有色人种形象，甚至将德国纳粹军队生成为亚裔形象等错误，被迫中止图像生成功能。如今在 Imagine 上也发现了类似问题。因此，Gemini 在推出仅20余天后就暂停了图像生成功能。

《Axios》分析称：“人工智能企业为了应对训练数据中存在的偏见和刻板印象，试图提高‘多样性’的程度，但过度修正反而产生了有问题的结果。”也就是说，大型科技公司为回避生成式 AI 的偏见争议，过度应用了关于种族、性别多样性的控制机制。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

• “一点都不羡慕中乐透一等奖”……智异山山麓涌现“价值2亿的大赚特赚”，全村炸锅
• “明天要去星巴克转转” 国民力量忠清北道党与巨济市长候选人被指附和贬损5·18 引发争议
• 20多岁奔向寺庙，50多岁走进美术馆……数据揭示旅行偏好分化
• “曾那么喜欢三星的员工怎么会变成这样”……三星电子工会委员长旧视频被重新关注

报道称，Meta 对相关问询尚未作出回应。针对 Gemini 出现的问题，谷歌解释称：“我们对 Gemini 进行了调整，使其能够展示多元化的人群，但未能考虑到在某些情境下不应如此展示的情况”，“Gemini 比我们原本预期的要谨慎得多。”谷歌首席执行官（CEO）Sundar Pichai 道歉表示：“这些错误给用户带来了不快，也暴露了偏见。我们的团队正全天候工作，努力解决这一问题。”

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。