[渗入总选的人工智能]①选举之年，瞄准摇摆选民的深度伪造

View original image

虽然是假的，却仿佛真的一样的操纵技术——深度伪造（Deepfake）正撼动着选举战场。当什么是真、什么是假之间的界限变得模糊之际，假的便可摇身一变成为真的，致使选民判断力被削弱，并最终走向无法挽回的选择。由于即便是专家也难以轻易判断深度伪造是否被动过手脚，一旦被用于公职选举等领域，其副作用可能会成倍扩散。

在韩国，2022年总统选举时，国民力量党候选人Yoon Suk-yeol通过“AI Yoon Suk-yeol”来宣传其亲民形象，是典型案例。此后，虽未在国内出现足以敲响警钟的重大事件，但在海外，近期深度伪造已成为重要选举中的最大变量之一。此前的美国总统选举中，流传着当时候选人Biden在竞选演讲时误认所在州，或在采访中打瞌睡的深度伪造视频，并以当时候选人Trump的支持者为中心扩散，引发争议。最近在斯洛伐克，选举前几天，一段伪装成自由主义阵营候选人讨论啤酒涨价和操纵选举计划的人工智能（AI）生成音频录音被当作事实扩散，酿成风波。美联社当地时间上月26日报道称，“今年美国总统选举将成为自能在几次点击、数秒之内生成假内容的精密AI工具问世以来举行的第一场选举”。

深度伪造是将深度学习（Deep Learning）中的“Deep”和“Fake”（假）合成的造词。2017年，Reddit社区中一名使用“Deepfakes”账号的会员上传篡改视频后，这一用语开始被使用。中央选举管理委员会选举研修院教授Jo Wonyong表示：“刊载在去年韩国公法学会《公法研究》上的论文指出，深度伪造技术日新月异地发展”，并警告称：“如果被恶意用于公职选举，有可能成为动摇民主共和国根基的重大犯罪。”

由于担忧深度伪造的负面影响，国内外已开始从立法层面作出应对。在韩国，值4月10日总选在即之际，已建立起防止深度伪造被滥用的最低限度法律装置。上月20日，限制在选举期间不加节制地利用深度伪造视频等开展竞选活动的《公职选举法》修正案在国会全体会议上获通过。国会政治改革特别委员会委员长Nam Insoon（共同民主党）表示：“利用AI合成图像、视频等并伪装成真实的深度伪造技术进行虚假事实散布的行为，会歪曲选民的判断。本法案旨在规制在选举期间不加节制地利用AI技术的行为。”

据此，自选举前90日起至选举日止，不得为竞选目的制作、编辑、传播、放映或发布深度伪造视频等。该规定将自本月29日起施行。中央选举管理委员会相关负责人解释称：“按原则本应从11日开始适用，但在法律中增设了附则条款，因此从29日起施行。”如若违反，将被处以7年以下有期徒刑或1000万至5000万韩元以下罚金。专家认为，此次在公职选举领域针对深度伪造滥用进行立法应对，迈出了“第一步”，具有积极意义，但学界普遍认为这“只是讨论的开始”。早在2017年，牛津大学就得出结论：只需目标人物的一张照片和一份语音文件，就能制作“假”视频。如今，仅凭一张照片，任何人都可能成为深度伪造技术的对象；若被恶意用于公职选举，从总统选举到总选、地方选举，其影响都可能呈几何级扩散，因此有舆论指出，政界亟需给予高度关注。

View original image

《华尔街日报》指出，此类深度伪造可能对温和派选民或摇摆选民（swing voter，尚未决定投票给谁的选民）产生更大影响。因为温和派或摇摆选民往往会关注深度伪造内容，如果相关内容看上去“有理有据”，他们改变偏好的可能性就更大。Jo教授表示：“在对某位政治人物的好感度尚不明确的情形下，如果出现具有说服力的深度伪造内容，就可能撼动选民的认知。”

尤其是，当真实候选人为了掩盖自身的不当行为或失言，反称相关内容是深度伪造时，也难以轻易辨别真伪。随着AI技术发展，即便是专家要判定真伪也需要时间；若选民在投票前夕观看了深度伪造视频并据此投票，则极有可能导致无法挽回的选择，这一点也引发担忧。在民意走向难以预判的情况下，若选前深度伪造内容如雨后春笋般涌现，也有可能成为撼动选局的重大变量。

各国政府也已开始采取行动。美国总统Biden去年10月签署了《关于安全且值得信赖的人工智能的行政命令》。该命令涵盖从个人信息到美国国家安全在内的多个领域，对人工智能带来的威胁予以规制。Biden总统表示：“我也看过自己的深度伪造视频”，“我还曾自言自语地说过：‘我到底什么时候说过那种话？’”。

相关文章

[渗入总选的AI]②虚假信息，AI引发的海啸正在逼近

国会立法调查处立法调查官Choi Jinwoong指出：“美国部分州法律对非法深度伪造竞选活动的范围和标准作出了规定”，“而在欧盟（EU）的情况下，与其说是针对深度伪造竞选活动的特别规制，不如说是在一般法层面上，就防止深度伪造技术被滥用展开规制讨论。今后有必要就深度伪造竞选活动的合法利用标准等问题进行更为具体的讨论。”目前，韩国国内对深度伪造视频的警惕性仍不高。但有舆论认为，随着未来深度伪造技术不断高度化，其发展不仅会影响选举，还可能对韩国社会的民主发展产生负面影响，因此亟需深入思考并制定对策。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。