“ChatGPT存在左倾偏向”…与“左派教父”卢拉支持者政治倾向相似

by Kim Seungwook

Published 18 Aug.2023 08:18(KST)

英格兰东安格利亚大学发布研究结果
“与美国民主党、英国工党关系密切”
“人工智能反映社会两极分化…形成恶性循环”

作为生成式人工智能（AI）热潮代表的OpenAI“ChatGPT”被研究发现具有政治上偏向进步主义的倾向，引发关注。有人担忧，生成式AI的政治偏向性可能会对民主制度构成威胁。

OpenAI的ChatGPT。图片由韩联社提供

据《华盛顿邮报》（WP）16日（当地时间）报道，英国东英吉利大学研究团队近日在《公共选择期刊》发表论文，公布了这一研究结果。实验显示，ChatGPT在回答有关政治信念的问题时，其回答更接近美国民主党、英国工党以及巴西总统路易斯·伊纳西奥·卢拉·达席尔瓦的立场。

研究团队首先设定了60个意识形态相关问题，然后要求ChatGPT在“假定自己具有进步、保守、中立等不同政治倾向的前提下作答”。随后，研究人员将这些在不同政治倾向设定下的回答，与ChatGPT给出的“默认回答”进行比较，以此衡量其政治偏向性。

包括ChatGPT在内的生成式AI，每次被提问时往往会随机给出不同的答案。为此，研究人员将同一问题重复提问100次，并通过自助法（从现有样本中进行有放回重复抽样并重新计算统计量）进行1000次运算，以获得更为精确的置信区间。

结果显示，ChatGPT相较于美国共和党更偏向民主党，相较于英国保守党更偏向工党。此外，它的回答倾向也更接近“南美左翼教父”卢拉总统支持者的立场，而不是巴西极右翼政治人物、前总统雅伊尔·博索纳罗的立场。

有舆论认为，这种政治偏向性可能威胁民主制度并加速社会两极分化。东英吉利大学的Fabio Motoki博士表示：“（AI的）政治偏见可能会对现实政治或选举产生影响”，“本次研究结果表明，AI可能会再现甚至放大线上和社交媒体（SNS）中已经存在的问题”。

另一方面，本月初卡内基梅隆大学、华盛顿大学和西安交通大学的联合研究也比较了ChatGPT以及谷歌“BERT”、Meta的“LLaMA”等基于大规模语言模型（LLM）的服务的政治倾向。大规模语言模型是一种通过已出现的单词来预测下一个单词的算法，使AI能够像人类语言（自然语言）一样作答。

研究团队向14个AI提出了关于移民、气候变化、同性婚姻等社会、经济和政治敏感议题的问题，结果显示，作为ChatGPT基础的“GPT‑4”表现出最为进步的倾向。LLaMA则更为保守，而BERT则相对持中间立场。

有观点指出，基于网络海量数据库进行学习的AI，可能会原封不动地吸收社会中的歧视与政治偏见。卡内基梅隆大学研究员Park Chanyoung在接受WP采访时指出：“社会的（意识形态）两极分化会反映到AI上”，“而这又会反过来导致现实社会的进一步两极分化，形成恶性循环”。

不过，也有分析认为，ChatGPT的进步倾向，可能源于其在过滤保守阵营中涉及种族、性别歧视等仇恨言论的“反馈”过程中形成的偏向。该研究员分析称：“对不含仇恨言论的回答给予更高权重，可能在社会议题上引导模型给出更偏进步的回答。”

WP则指出：“由于不同国家和个人在何谓进步、何谓保守的问题上标准可能不同，对AI政治偏向性的研究在本质上存在局限。”

本报道由人工智能(AI)翻译技术生成。