[渗入总选的AI]②虚假信息，AI引发的海啸正在逼近

by Seo Sojeong

Published 11 Jan.2024 08:35(KST)

Updated 11 Jan.2024 15:32(KST)

open/close

虽禁用深度伪造视频拉票
但AI技术进步与应用激增…监管范围看法不一
AI叠加宏程序，操纵评论软件也已出现
在欧盟不守规最高罚全球营业额6%

“在即将于13日举行的台湾地区领导人选举前，从深度伪造（Deepfake）到让人喘不过气的抖音式短视频，虚假信息浪潮正在冲击台湾选民。”（法新社）

在全世界目光聚焦台湾地区领导人选举之际，法新社10日报道称，台湾选民在大选前正面临亲中虚假信息的洪流。虚假信息主要集中攻击反对“台湾是中国一部分”说法、具有独立倾向的台湾执政党民主进步党（民进党）候选人赖清德。舆论普遍将中国视为幕后推手。中方则予以否认，称“虚假信息攻势只是谣言”。在虚假信息汹涌之中，全球都在关注选民的投票意向将走向何方。

4·10总选举是“AI选举”序幕，或成突发变量

包括深度伪造和假新闻在内的各类虚假信息在网络平台上肆虐，使台湾选民陷入混乱，这一最新局面堪称展示“人工智能（AI）选举”风险的缩影。距离4月10日总选举仅剩3个月的韩国，也因此出现了“AI可能成为突发变量”的预测。中央选举管理委员会选举研修院教授 Jo Wonyong 表示：“候选人多达1000人以上的总选举，是AI选举的序幕”，“少数候选人激烈角逐的2027年总统选举，将演变为火花四射的AI战争。”选管机关分析认为，深度伪造影响最大的领域，是围绕候选人“个人”的形象、能力与道德性，而在政策与竞选纲领层面，各次选举受影响程度会有所不同。

韩国针对选举前90日起禁止利用深度伪造进行竞选活动的《公职选举法》修正案已于上月在国会全体会议获得通过。由此，从本月29日起，将全面禁止利用深度伪造制作的宣传视频等进行竞选活动。不过，围绕选举的AI争议才刚刚迈出第一步。随着AI技术进步和应用度提升，关于应在多大范围内允许对深度伪造进行规制，专家观点出现分歧。一方认为，深度伪造既威胁公平选举，又可被当作心理战武器使用，因此必须实施强力规制；另一方则指出，过度规制可能限制新闻、言论和经营自由，双方意见针锋相对。

将ChatGPT等生成式AI与宏程序结合，操纵评论也成现实

问题不止于假新闻和深度伪造。近期甚至出现了将ChatGPT等生成式AI与自动重复指令的宏程序结合，进而生成精细虚假评论的程序。问题在于，这类虚假操纵信息一旦与公职选举相遇。若通过评论生成程序大规模操纵评论，极易被用来带节奏、操纵舆论。目前在互联网门户网站上并不难发现诸如“利用生成式AI即可一并解决YouTube视频、演讲稿撰写乃至高效竞选活动”等宣传帖，或“销售可像真人一样自动撰写评论的程序”等利用AI开展业务的广告。Jo Wonyong 教授表示：“AI技术日新月异，利用AI开展的新型商业模式不断涌现。尽管用于探测和识别的技术也在发展，但难以完全跟上这一速度。正因如此，有必要对在公职选举中使用深度伪造技术进行规制。”

随着AI技术发展，大型信息技术企业（Big Tech）的动作也在加快。近期，NAVER新设直属于首席执行官 Choi Sooyoun 的“Future AI Center”，专门负责AI安全性研究。此举旨在不落后于国际社会为提升AI安全性与可信度而展开的各项举措。该机构将开展提升AI安全性的技术研究，并制定AI伦理政策。NAVER计划投入约100名人员，负责其AI大型语言模型（Large Language Model, LLM）“HyperCLOVA X”的服务开发与风险管理，并在此基础上进一步高度化技术研究。NAVER理事 Kwak Daehyun 表示：“这是一个不仅着眼于应对即将到来的4月总选举，也着眼于整体强化AI安全性的组织”，“将在本月末提出今后规划等具体方向。”

Kakao则在总选举前强化针对有害内容过滤技术的研究。作为AI内容健康性研究的一环，Kakao正在推进识别虚假信息或深度伪造方向的研究，并另设团队从技术层面应对AI滥用问题。尤其在生成式AI图像方面，正为其图像生成模型“Karlo”研究引入不可见水印技术。不可见水印技术对用户而言水印不可见，但从技术上可以识别内容是否由“Karlo”生成。谷歌也在研究和运营类似技术。

欧盟：不遵守在线平台规制最高可罚全球营业额6%

有观点指出，在AI技术被滥用的副作用令人高度担忧的背景下，有必要进一步强化对在线平台的规制。根据选管机关数据，在2020年第21届国会议员选举的选民意识调查中，回答“通过门户网站、主页等互联网获取候选人选择所需信息”的比例高达43.4%，接近一半。这意味着，门户网站、主页等互联网平台和社交媒体，是最有可能被利用来传播虚假信息的领域。

目前，欧洲联盟（EU）通过了《数字服务法》，要求大型在线平台和大型在线搜索引擎，至少每年一次确认、分析和评估其在欧盟境内传播非法信息、侵犯基本权利、损害公共讨论、影响选举与公共安全等方面所造成的结构性风险。该法不仅将对虚假捏造信息采取明确识别措施列为法定义务，还对不履行相关义务的大型在线平台和搜索引擎实施严厉规制，可处以其全球营业额6%以内的罚款。