[新闻术语]“阻止假新闻”……“AI 水印”

为应对利用深度伪造技术恶意制作的假新闻，政府正推进一项方案，拟强制要求在人工智能（AI）生成内容上标注水印（watermark）。根据科学技术信息通信部21日在国务会议上汇报的《重塑新数字秩序推进计划》，今后将围绕这一内容制定和修订相关法律法规，并构建覆盖假新闻生成、流通、扩散全周期的应对体系。

所谓“AI水印”，是指嵌入应用了AI技术制作的数字图像或文档中的标识或文字。其作用是标明相关资料的所有者或原始出处，从而防止非法复制或擅自使用，并强化权利人的权利保护。它也可用于著作权保护或来源认证。在生成式AI领域，通过水印可以让人们更容易识别某一内容是由生成式AI制作，从而提示其存在虚假信息的可能性，或防止用户产生混淆。

OpenAI本月7日推出了一款工具，可以判别特定图像是否利用其图像生成人工智能“DALL·E 3”生成。

View original image

目前，各国政府已出于担忧生成式AI被滥用于制作假信息并无节制传播，对AI输出物引入或准备引入水印监管。欧盟（EU）去年8月通过《数字服务法》（DSA），要求在AI生成内容上加注单独标识；在美国，去年10月总统Biden签署的行政命令中，也纳入了“必须强化生成式AI输出物可识别装置”的内容。

尤其是美国大型科技企业，已开始在生成式AI服务中应用“不可见”水印。普通用户无法直接看到该水印，但可通过具备水印识别功能的特定网站或程序进行确认。这类不可见水印不仅具有确认内容来源的功能，还被各家公司用于追踪通过本公司服务生成的图像如何在外部流通。

OpenAI本月14日推出可进行语音对话的AI“GPT-4o”时，决定在将文字转换为语音的服务（TTS）“Voice Engine”中应用水印功能。原因在于，语音生成技术极易被用于语音诈骗等犯罪行为。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

• “特价才买的，今天更便宜”气炸了…先抬定价再虚增折扣率，网络平台被查出
• “还不如直接买股票”…挂名ETF，实则“半导体重仓”成短线游乐场
• 歌手 Kim Minjong 回应 MC Mong 赌博爆料：“明显属虚假…将采取法律措施”
• “无药可治却扩散加速”……已致105人死亡恐慌蔓延，美国人亦被感染

本国政府拟优先在生成式AI制作的输出物上引入“可见”水印。其目的在于让用户事先意识到相关内容为AI输出物，并预防因误用或滥用而造成的损害。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。