[初动视角]须制定应对“深度伪造”撼动选举格局的对策

“不是已经解决了吗？从本月29日起至总选举为止，禁止利用深度伪造视频进行竞选活动的《公职选举法》修正案已经在国会全体会议上获得通过了。”

在全球迎来“超级选举年”之际，虽然是假的却仿真度极高的操纵技术——深度伪造（Deepfake）正在撼动选举格局，舆论指出，韩国国内亟需制定应对方案。但正如某政治圈人士的上述言论所示，政治圈本身的警觉性并不高。认为随着《公职选举法》修正案通过、立法层面的应对已经启动，就“没有问题”的安逸心态占据主导。利用日益进化的人工智能（AI）技术，对图像、视频等进行合成并伪装成真实的深度伪造技术正肆意横行，甚至被恶意用于公职选举，但社会整体的警觉性远远追赶不上技术发展的速度。

本月13日，举行今年全球首场大选的台湾，宣告“AI选举”时代正式开启。直到领导人选举投票前夕，台湾选民都不得不持续与深度伪造展开斗争。原因在于，TikTok等平台上充斥着亲中虚假信息，深度伪造被有组织地滥用于竞选活动，从而干扰了选民的判断力。微软（Microsoft）创始人比尔·盖茨去年在自己的博客中也曾表示担忧称，“由AI生成的深度伪造和虚假信息可能破坏选举和民主”。受到影响的不仅是选举。近两年来持续的俄罗斯—乌克兰战争，以及自去年10月以来延续至今的以色列—哈马斯战争中，包括深度伪造在内的AI技术也被用作高度心理战武器。

学界警告称，韩国国内同样存在深度伪造引发“核风暴”的可能性。与其说是在有1000多人参选的本次总选举，不如说是在3年后举行的总统选举中，深度伪造更有可能成为颠覆选局的最大变量。在关注度高度集中于少数候选人的总统大选中，如果深度伪造模糊了选民的判断力，就有可能成为左右候选人胜负的“致命一击”。考虑到在上一次第二十届总统选举中，国民力量党候选人Yoon Suk Yeol与共同民主党候选人Lee Jaemyung的得票率差距仅为0.73个百分点，创下历届总统选举中最小差距的纪录，对深度伪造负面影响力的警惕绝不能放松。尤其是，与假新闻不同，深度伪造即便对专家而言也难以轻易判断是否被操纵，而且真伪鉴定需要耗费较长时间，因此更需谨慎。今年11月将举行总统选举的美国总统Biden之所以招聘数百名工作人员和志愿者，以应对社交媒体上出现的虚假信息，也正是出于这一原因。

相关文章

[渗入总选的人工智能]①选举之年，瞄准摇摆选民的深度伪造

• [渗入总选的AI]②虚假信息，AI引发的海啸正在逼近

在来自全球政界和财经界知名人士齐聚一堂、讨论人类共同议题的世界经济论坛（World Economic Forum，WEF，达沃斯论坛）于15日（当地时间）在瑞士开幕之际，今年论坛将AI置于核心议题位置。各国领导人将思考在削减虚假信息大量生产和数字鸿沟等副作用的同时，如何利用AI的方案。韩国国内也有必要提高对深度伪造技术的警觉性，并为此做好积极准备。应更加明确界定深度伪造竞选活动的概念，细致检讨并设定针对网络平台等的监管方案，将其副作用降到最低。

View original image

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。