Naver、Kakao等IT企业将制定应对深度伪造虚假信息方案

by Choi Yuri

Published 15 Mar.2024 09:52(KST)

韩国互联网自律政策机构（KISO）15日表示，旗下会员公司包括Naver、Kakao、SK Communications（以下简称SK Comms）等国内门户网站及人工智能（AI）聊天机器人企业，已着手就应对深度伪造问题展开讨论。

韩国互联网自律政策机构 CI 图片由KISO提供

KISO旗下新技术委员会在最近召开的会议上，就深度伪造等人工智能技术被滥用的问题，分享了会员公司的应对现状，并讨论了今后的对策。由学界专家组成的新技术委员会中，除国内代表性门户网站Naver和Kakao外，聊天机器人服务企业SimSimi、Scatter Lab、TUNiB等也参与其中。

新技术委员会尤其是在4月国会议员选举临近之际，密切关注利用深度伪造技术制作的虚假操纵信息可能扩散的风险，决定收集并分析具体案例。在通过问卷调查等方式汇集用户意见后，将从自律监管的角度制定合适的应对方案。

KISO为确保选举公正性，将与中央选举管理委员会合作，对于利用深度伪造视频制作的虚假操纵信息，一旦得到明确确认，将迅速采取措施。

Naver在举报中心首页新设了▲选举相关虚假信息 ▲深度伪造生成物等举报专区，构建起便于用户尽可能过滤并应对的体系。在博客、论坛等发布视频或输入与深度伪造相关的搜索词时，向用户提供有关深度伪造使用的注意事项和提示语，以保护用户。此外，在新闻服务中，对于由AI机器人生成的报道，在正文中强调标注相关事实，以便用户识别。

Kakao制定了有助于用户自行轻松识别AI作品的政策和技术性措施方案。Kakao在媒体利用AI生成的报道上方显著标注“本报道由AI生成”，以便用户轻松识别。在生成式AI图像生成模型“Calo”中，引入了嵌入不可见水印的技术。与此同时，Kakao还计划通过关键词搜索、横幅广告等形式开展宣传活动，提醒用户注意，并详细告知深度伪造的举报方法等。

SK Comms计划在利用“AI Chat”服务进行图像生成时，通过对主要政治人物姓名设置“搜索词限制措施”，来防止制作与选举相关的深度伪造内容。公司表示，还将运营选举相关虚假信息举报渠道，并在服务内标示深度伪造警示语，以提醒用户注意。