“与虚假信息的战争”……AI深度伪造撼动全球选举格局

by Jeong Hyunjin

Published 01 Jul.2023 12:00(KST)

土耳其等国选举出现生成式AI内容
明年美国大选或将“大混乱”……“竞选活动的分水岭”

由ChatGPT掀起的生成式人工智能（AI）热潮，让全世界最为紧张的领域之一就是“选举战场”。在一个一句话、一个表情或一个动作都足以轻易撼动选民心绪的选举场上，由AI生成的虚假信息，即“深度伪造”，接连对选举走势产生巨大影响，各国选举当局的忧虑也日益加深。

尤其是在距离2024年总统选举仅剩一年多的美国，尽管要求加强监管的呼声不断，但已经有人开始将AI用于竞选活动，为“AI选战”点燃火种。

图片由路透社联合通讯社提供

◆ 土耳其、加拿大选举战场上出现的AI假照片

在今年上半年被视为最受瞩目的选举之一——土耳其总统选举中，AI在最后关头成为关键变量之一。长期执政20年、被称为“现代版苏丹”的土耳其总统Recep Tayyip Erdogan与反对党共和人民党候选人Kemal Kilicdaroglu展开激烈角逐，一度甚至被认为可能下台。

据英国《卫报》等媒体报道，在今年5月举行的这场选举中，AI首次现身是在决选投票两周前。当时Erdogan总统向支持者播放的一段视频引发争议。视频内容是土耳其分离主义组织库尔德工人党（PKK）成员高唱支持对手Kilicdaroglu候选人的歌曲。主打民族主义路线的Erdogan总统一边播放一边煽动支持者称：“看这个，非常重要。”然而，这其实是一段由AI生成的假视频，Kilicdaroglu候选人指责其背后黑手是俄罗斯。

今年5月，土耳其总统雷杰普·塔伊普·埃尔多安在支持者面前发表演讲。联合新闻供图

最终结果是Erdogan总统获胜。他与Kilicdaroglu候选人的得票差距还不到5个百分点。影响其胜选的因素当然有很多，但在支持率一度落后于反对派候选人、又面临高通胀和经济困局的情况下，Erdogan总统为进一步强化民族主义路线，利用了AI假照片这一工具。

在上月26日举行投票的加拿大多伦多市长补选中，由AI生成的假照片同样引人注目。多伦多是北美第四大城市，也是全球AI研究发展最快、最活跃的城市之一。本次市长选举的候选人多达100余人，如何吸引选民目光本身就是一项任务。其中，保守派候选人、前新闻专栏作家Anthony Furey使用AI制作的竞选资料备受关注。

据《纽约时报》等媒体报道，这份长达40多页的资料中包含多张由AI生成的图片，但这些图片在现实中根本不可能拍摄出来，错误百出，因此成为话题。例如，一名正在交谈的女性双臂抱胸，但她并非只有两只手臂，而是有三只，没抱在胸前的那只手则托着下巴。另一张照片中，一名长发女子佩戴项链，但项链吊坠并不挂在金属链上，而是“贴”在前面的头发上。除此之外，还有女子所穿开衫上的胸针、施工现场的警示胶带上虽有文字，却完全无法辨认。

参加加拿大多伦多市长补选的候选人 Anthony Furey 的样子（图片来源 Anthony Furey 候选人社交媒体）

《纽约时报》称：“有候选人在上月16日举行的辩论会上把这些图片当成笑柄”，但同时也评价说：“在候选人超过100人的情况下，这一点反而成为让他打响知名度的一股推动力。”Furey候选人在竞选初期甚至连电视辩论都无法参加，根本算不上主要候选人，但最终拿下第四名，被评价为成功累积了大众知名度。

◆ “2024年大选是AI选举”……共和、民主两党“苦思对策”

就这样，AI已经正式登上全球选举战场。如今，全球目光都投向定于明年11月举行的“世界最大选举战场”——美国总统大选。现任总统Joe Biden与前总统Donald Trump均已宣布参选，预料将展开激烈拉票战。专家担忧，AI可能会模仿候选人的声音，自称犯下罪行并“自白”，或发表种族歧视性言论，甚至生成候选人从未发表过的演讲或采访视频等各类深度伪造内容。

Convergence Media公司负责数字营销的副总裁Tom Newhouse在美国政治媒体《Axios》上表示：“如果说2008年和2012年是Facebook选举，那么这次将会是AI选举”，“但这一次的破坏性将大得多。”他还预测，明年11月大选前一个月，可能会出现由AI生成内容集中爆发的“十月惊奇”事件，严重撼动选举格局。

美国政界已经开始在竞选活动中使用AI。

共和党全国委员会在今年4月Biden总统正式宣布参加明年大选的当天，公开了一段时长32秒的视频。视频中使用了描绘Biden政府第二任期可能出现的“反乌托邦世界”的AI生成图片，因此引发争议。

美国共和党有力总统候选人、佛罗里达州州长Ron DeSantis（左）与前总统Donald Trump。AP 联合新闻供图

共和党内部也同样使用了AI假照片。

作为共和党内有力总统候选人、挑战Trump前总统的佛罗里达州州长Ron DeSantis，上月在自己的推特账号上发布了一张合成照片，画面显示Trump前总统在白宫简报室拥抱并亲吻在新冠疫情初期与其产生分歧的前国家过敏与传染病研究所所长Anthony Fauci。这张假照片显然是针对对Fauci前所长防疫政策极为不满的保守派选民而设计。

DeSantis州长阵营在发布包含这张照片的视频后，并未立即告知公众这并非事实。直到媒体指出这是假照片后，他们才在几天后承认是合成图像。

在这种局面下，上月14日，民主党籍的70多名选举战略人士通过视频会议方式聚集开会。据美国政治媒体《Politico》报道，他们讨论了如何应对2024年由AI生成的虚假内容。报道指出，与会者担忧生成式AI可以以极快速度和巨大规模制造假信息，认为应当对选民进行教育，让他们学会识别，从而自行判断。

民主党自今年年初起，就在探索利用AI撰写募款邮件初稿等应用方式。

鉴于AI在美国政界的普及与扩散速度极快，政界人士认为有必要尽快设定相关“护栏”并采取措施。民主党参议院多数党领袖Chuck Schumer上月公布了名为“SAFE创新框架”的AI监管倡议。他表示：“最快从明年选举开始，AI就可能彻底摧毁（公众对选举的）信任”，“我们很快就会生活在这样一个世界：在政治拉票过程中，会出现看似完全可信、但实际上经过操纵的民主党或共和党候选人照片。”