“戴手铐的Trump”威胁选举安全…美国AI企业限制作政治图像生成直至大选结束

by Kwon Haeyoung

Published 12 Feb.2024 00:36(KST)

Midjourney一年内禁止生成总统候选人形象
Meta与OpenAI为AI生成图片添加水印

在即将于11月举行的美国总统大选前夕，多家人工智能（AI）企业正在考虑禁止利用自家AI生成政治类图像。

据英国《卫报》等海外媒体当地时间11日报道，AI图像生成企业Midjourney正考虑采取措施，禁止生成关于总统Joe Biden或前总统Donald Trump的政治图像。Midjourney首席执行官（CEO）David Holz表示：“今后12个月内，将禁止或限制与有力总统候选人等相关的图像生成。”

另一家AI图像生成企业Inflection AI也预告，将采取措施，禁止其聊天机器人“Pi”发表支持特定政治候选人的言论。

Facebook母公司Meta上周表示，将在由其AI生成的图像上加贴标签，以便区分特定图像的来源。这是为在大选前阻止错误信息传播而采取的举措。OpenAI也预告，将在深度伪造（利用AI进行图像和音频合成的技术）内容中加入水印（表明由AI生成的标记）。OpenAI首席执行官（CEO）Sam Altman近日表示：“我最担心的是AI的新能力”，“会出现比2020年更高级的深度伪造。”

美国科技企业的上述动向，出现在近期要求加强深度伪造监管的呼声不断高涨之际。最近，戴着手铐的前总统Trump、扫射机关枪的总统Biden等由AI生成的假图像在网上传播，引发舆论担忧其可能威胁选举和民主。