州议会制定防止受害对策
联邦法适用仍不明朗…Biden称“需进行风险管理”
上月，一张据称在美国国防部大楼五角大楼园区内发生爆炸的照片在网上传播，导致美股一度下跌。本月初，又出现了一张美国前总统Donald Trump与在新冠肺炎疫情期间与其产生矛盾的前美国国立过敏与传染病研究所所长Anthony Fauci亲密接触的照片，引发关注。这两张照片都是通过人工智能（AI）技术伪造、把从未发生的事情塑造成真实事件的假照片，即所谓的“深度伪造”照片。
彭博通讯社于当地时间20日报道称，美国各州正在制定措施，规范深度伪造照片。随着明年总统选举临近，利用生成式AI恶意制作的深度伪造照片不断引发社会问题，围绕监管必要性的呼声日益高涨，各州议会已着手推进相关立法程序。
左侧为美国前总统 Trump，右侧为美国国家过敏和传染病研究所前所长 Anthony Fauci，两人神情不一的这张照片拍摄于2020年3月。路透社 联合新闻社供图
View original image报道称，目前在美国境内，已有9个州制定了规范色情和选举相关深度伪造内容的法律。加利福尼亚州、得克萨斯州和弗吉尼亚州早在AI热潮掀起之前的2019年就已出台与深度伪造有关的法律。明尼苏达州于今年5月通过了相关法律，伊利诺伊州也有类似法案在州议会获得通过，只剩下州长最终签署程序。目前还有4个州正在推进相关立法。
所谓深度伪造，是指利用AI合成真人图像的技术。该术语源于2017年，美国线上社区Reddit上一名用户利用AI算法，在未获当事人同意的情况下，将名人脸部拼接到成人内容上并上传伪造色情视频。随着AI技术发展，深度伪造照片和视频的数量正迅速增加。
提供深度伪造识别服务的Deeptrace Labs指出，2019年在网络上可确认的深度伪造视频约有1.5万个，其中96%是以女性为主角的成人内容。另一家从事深度伪造检测的公司Sensity AI也指出，自2018年以来，深度伪造视频数量呈指数级增长。
尤其是今年以来，社会对生成式AI的关注度急剧上升，受害案例也不断增多，但美国联邦国会在相关议题上的讨论却有所放缓。彭博社称，为了尽快阻止现实中的受害情况，各州议会正在加快制定法案的步伐。美国政治专业媒体《The Hill》近期也分析认为，鉴于明年将举行美国总统大选，深度伪造照片预计会给竞选方式带来巨大变化。
专家指出，依据现行法律，要就深度伪造照片提起诉讼并不容易。研究深度伪造问题的Loyola Marymount University法学教授Rebecca Delfino表示：“技术不断发展，如果不是数字取证专家，现在几乎很难判断哪些内容是真实的、哪些是伪造的。”Northwestern University教授Matthew Kugler则指出：“如果是像人脸这样完全公开的东西被拿来利用，在现行法律框架下，人们并没有明确的途径就此提起诉讼。”
据称，在目前的法律体系下，如果没有针对色情深度伪造的专门法条，受害者可能难以提起诉讼。美国48个州虽已制定禁止“报复性色情”（Revenge Porn）和“偷拍”的法律，但Kugler教授担忧，考虑到深度伪造本身是虚假的，这些法律条款未必适用。关于因肖像权侵害引发的名誉损害等问题，也有观点指出，在部分州，相关权利仅限于商业用途，因而与惩治深度伪造之间可能存在较大距离。
目前，各州已制定法律的适用范围差异较大，对深度伪造的定义也各不相同，被视为一大问题。此外，专家还担忧，深度伪造也可能以不损害他人的方式被使用，如何在保护合法的深度伪造应用的同时禁止有害内容，并不容易。
事实上，《华尔街日报》（WSJ）近日报道称，一些名人已经开始就利用AI合成或变形其本人形象或视频事宜与相关方直接签订合约。WSJ还指出，借助AI技术，不仅可以将名人的年龄“拉低”，让其显得更年轻，还可以制作出当事人实际上根本做不到的行为场景的照片或视频。
![“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①](https://cwcontent.asiae.co.kr/asiaresize/93/2026051414165763158_1778735817.jpg)
另一方面，美国总统Joe Biden当天在加利福尼亚州旧金山会见公民社会领袖与专家，表示将管控AI带来的风险因素。他称：“在未来10年，我们将见证比过去50年，甚至可能更长时间里更多的技术变革。”他同时强调：“我们有必要管控对社会、经济和国家安全的风险。从隐私保护到应对AI偏见与假新闻，再到在AI系统投入使用前确认其安全性，我们致力于保护美国民众的权利与安全。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
