生成式AI登场…认知方式正在改变中
不再只是筛除虚假 而是要证明真实
影响波及文化与政治全局
也有必要反思AI伦理
我们如今也许不再只是过滤虚假图像，而是生活在一个“必须证明真实”的世界里。美国知名艺术家 Trevor Paglen 于本月14日（当地时间）在纽约古根海姆美术馆接受记者采访时警告称，人工智能（AI）技术正在改变人类自身的认知方式。
今年 LG古根海姆奖获奖者 Paglen 因长期探究技术监控和人工智能偏见等议题而闻名。他此前通过海底电缆、数据中心、军用卫星等“不可见基础设施”展现其物质性，近期则转而探索人工智能对人类认知产生了怎样的影响。
Paglen 判断，在过去15年间，我们观看图像的方式经历了两次重大拐点。第一次是“计算机视觉”。他表示：“自动驾驶汽车、工厂的自动质量管理系统、机场的人脸识别系统就是典型例子”，“这些（计算机视觉）都是为了非人类的其他机器而生成图像。”
他的作品《步态分类》正是这种视角的直接呈现。这是一件将人工智能对人类步态模式的分类和追踪方式可视化的作品，展示算法如何把人的身体还原为数据。
Paglen 指出：“从历史上看，图像只有在人类观看时才得以存在。而如今，即便没有人类，图像也会被生成并被利用，这是一种非常根本性的变化。”
我们通过眼神、表情、脸色、手势等非语言语境来解读情绪、判断他人。然而计算机视觉则以像素、模式、概率等数据为中心来诠释人类。在这一过程中，个体各自独特的特征被抹去，人性随之消失。
与我们对“计算机视觉应当客观”的信念相反，它却学会了偏见。通过分析人工智能训练数据，揭露种族和性别偏向的《ImageNet 的面孔（Faces of ImageNet）》便是这一问题意识的延伸。
第二个拐点则是生成式人工智能。Paglen 指出：“如今我们生活在这样一个时代：文本背后不必一定存在作者，艺术作品背后不必一定存在艺术家，照片背后也不必一定存在摄影师。”他强调的是，创作者与作品之间的连接纽带正在被切断。
现实中，以这种方式生成的图像已泛滥成灾。伊朗战争爆发后，网络上由人工智能生成的虚假图像引发争议。Paglen 表示：“现在已经不是删除虚假的问题，而是在假定一切都是假的前提下去寻找真实”，“我认为这可能会对文化、社会以及政治整体产生极大影响。”
Paglen 的忧虑并非首次出现。Michel Foucault 曾指出，权力以“看不见的凝视”结构发挥作用；Hannah Arendt 则表示，当事实与虚构的界限变得模糊，人们对现实的共同认知本身就可能被动摇。人工智能制造的虚假图像表明，这些警告已经成为现实。
他强调说：“此刻正发生某种重要的变化，我们必须理解这一变化，并思考如何避免由此可能产生的负面后果。”
对于“企业是否有可能解决人工智能偏见问题”的提问，Paglen 回答称：“我并不把这个问题仅仅视为某个企业或个别开发者的责任”，“但至少在美国，现在不仅要讨论‘我们希望如何使用技术’，还必须更加深入地讨论‘技术绝对不应该做什么’。”
Paglen 将因人工智能而改变的认知方式作为艺术主题加以呈现，自有其理由。他还表示，希望此次获奖能成为拓宽人们对研究型艺术认知的契机。
Paglen 称：“我并不是以每天在工作室里绘画的传统方式进行创作”，“我想向其他艺术家展示，与各类专家合作并经过漫长调查过程的工作同样可以成为艺术，这也是一种可能性。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
