诡异的六根手指：“从未存在过的那些人”
生成“如照片般”图像的AI问世
手臂等人体精细部位描写不足
弥补弱点只是时间问题…“亟需对策”
昏暗的房间里，两名女性手持相机。根据她们的穿着、灯光以及特有的褪色质感判断，这看上去像是一张拍摄于20世纪90年代的胶片相机照片。
令人惊讶的是，这张照片并不是过去拍摄的旧照，实际上它根本不是真正的“照片”。房间里熙熙攘攘的人群也都不是真人，而是通过人工智能（AI）图像生成器“Midjourney”制作出来的计算机图形（CG）。生成这幅图像的网友表示：“Midjourney的能力正在变得极其强大”，“这里这张照片根本不是真实的照片，其中出现的这些人，从来没有在任何一个瞬间真实存在过。”
这幅图像于今年1月通过社交媒体“推特”公开，浏览量高达3185万次，被转发1.3万余次，受到广泛关注。大多数网友都表达了担忧。有观点称，“很担心由AI创造的未来”，“谁都可以篡改现实”。在人类迈入AI时代之际，人类的感知能力和事实核查能力是否正面临危机？
创造“如照片般的画”的AI
生成式AI是指能够重新生成特定文本或图像的人工智能。OpenAI的语言学习模型（大型语言模型）“ChatGPT”是最知名的文本生成AI。在图像领域同样已经展开了激烈竞争。Midjourney研究所的Midjourney、OpenAI的“DALL-E”、英资初创公司Stability AI的“Stable Diffusion”等，都是代表性案例。
图像生成AI过去主要以计算机图形或漫画图像等作为教材进行训练。但近来，随着AI训练用数据集不断增加，其生成逼真图像的能力也发展到了相当水平。不仅如此，它还能模拟具有胶片照片质感的特有滤镜，乃至过去流行的服饰和发型等细节。人们因此开始对不加节制使用AI敲响警钟。
利用AI实施的诈骗已经出现。最近，关于为土耳其和叙利亚大地震灾民筹款的相关图像在多个社交媒体平台上广泛传播。数以千计的网友看到这些图像后，通过国际汇款方式捐出善款，但不久之后，人们发现这些图像其实是由AI生成的假图。
手与胳膊……AI尚未攻克的薄弱环节
那么，我们是否只能对利用AI制造的虚假信息束手无策？也并非如此。只要稍微提高一点“注意力”，就能较为容易地识破AI生成的图像。
图像生成AI在生成整体画面方面能力出众，但难以精细刻画局部。因此，AI生成图像往往通过过度的模糊（blur，即画面模糊部分）处理来掩盖细节。
尤其是对比例要求极其精细的手臂长度，以及拥有复杂结构的手部——如皱纹、指甲等——仍是AI尚未完全攻克的领域。如果仔细观察由Midjourney生成的图像，就会发现拿着物品的人的手指数量超过五根，或者弯曲的手臂长度异常等问题。
美国布鲁金斯学会：“或需政府介入”
不过，这种识别AI图像的方法还能有效维持多久尚未可知。随着用于调整不自然人体比例和手指数量的技术“ControlNet”的开发，AI生成图像的这些“致命弱点”也正在被迅速弥补。
![“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①](https://cwcontent.asiae.co.kr/asiaresize/93/2026051914165468840_1779167814.png)
最终，关于有必要对AI的使用进行国家层面的规制的呼声日益高涨。美国最大政策智库之一“布鲁金斯学会”在本月21日（当地时间）发表的文章中指出：“目前生成式AI的主要风险来自商业用途和恶意用途这两类行为”，“因此，有必要对这两类行为进行分别考量，并且需要政府作出明确的政策性介入。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
