[THE VIEW]总统打来的“别投票”电话

Published 02 Jul.2024 13:17(KST)

利用深度伪造的虚假信息需被遏制
内容认证技术开发至关重要
辨别假新闻的教育也不可或缺

今年2月，新罕布什尔州民主党预选的选民接到了一通自动电话，电话中用美国总统Joe Biden的声音劝说他们“不要投票”。这一事件是近期深度伪造技术的案例之一。深度伪造技术是利用人工智能（AI）和深度学习算法，生成几乎与现实无法区分的视频或音频的技术。尽管在技术上具有创新性，但其中同时蕴含着重要的伦理问题和社会风险。

深度伪造技术的主要问题之一，就是如前述案例那样助长虚假信息和假新闻的传播。利用知名人士或公共人物的假视频、假音频散布虚假信息的案例正在增加，这可能引发社会混乱。这同样可以适用于普通人，并很有可能被用于电话诈骗等各种网络犯罪和金融诈骗。如果此类案例不断增加，社会整体的信任将会被严重破坏，最终可能削弱社会凝聚力，并对共同体的稳定性构成威胁。

深度伪造技术也存在积极而富有创意的应用可能性，但考虑到其问题的严重性，笔者认为，在针对技术滥用的监管与管理体系得到稳定之前，再正式展开相关讨论也并不算晚。这样的路径有望引导技术朝着健康发展的方向前进。

目前针对深度伪造的监管和法律应对仍不完善。与其单纯试图排斥这类技术，不如制定能够将负面影响降至最低的综合性应对方案。首先，开发内容认证技术和基于人工智能的检测系统十分重要。例如，“起源计划”（Project Origin）是《纽约时报》（NYT）、微软（Microsoft）等合作推进的项目，当媒体制作方发布内容时，通过数字指纹或水印等方式确认内容来源并感知变更，一旦发现异常，就向消费者发出警示，该技术正不断被高度化。

此外，还需要类似“深度伪造责任法案”（DEEPFAKES Accountability Act）这样的严格监管。这一法律提出了禁止利用深度伪造实施非法行为并强化应对措施的方案。但在这些努力之外，似乎仍需要进一步发展和补充。

教育和提高认知也同样重要。必须开展相关教育，使公众理解深度伪造技术的潜在威胁，并培养识别虚假内容、判断真伪的能力。关键在于帮助大众在技术发展与道德责任之间做出正确选择。如果无法阻止或回避深度伪造技术的发展，就有必要迫切探索关于如何管理和利用这项技术的明确方向。