大型语言模型（LLM）论文被采纳
“为防止文化偏见提供洞见”
由 Lee Honglak，LG AI研究院首席人工智能科学家（CSAI、副社长级）撰写的关于大语言模型（LLM）的论文，在全球顶级自然语言处理（NLP）学会上获得了“社会影响奖”（Social Impact Award）。
据人工智能（AI）业界2日消息，由 Lee Honglak CSAI与 Lee Moontae，LG AI研究院高级机器学习实验室负责人（常务级）共同撰写的论文，在上月16日至21日（当地时间）于墨西哥城举行的北美计算语言学学会（NAACL）2024上获得社会影响奖。北美计算语言学学会是全球三大自然语言处理学会之一，谷歌、亚马逊等全球大型科技企业以及自然语言处理研究人员每年都会参与其中，分享最新研究成果。
论文题为《理解大语言模型在文化常识方面的潜力与局限》。包括 Lee Honglak CSAI、实验室负责人 Lee Moontae 在内，来自LG AI研究院、密歇根大学、伊利诺伊大学、新加坡科技设计大学4家机构的6名研究人员共同完成了论文，由LG AI研究院和密歇根大学主导研究。
论文指出了以下局限性：▲大语言模型无法正确解读全球各个文化圈的“文化常识”；▲大语言模型所习得的文化常识反映出特定文化圈的偏见；▲大语言模型可能会因语言不同而以不同方式习得文化背景。比如，对于“拉西是哪个地区的传统饮料”这一问题，如果不是输入“印度”而是输入“芬兰”，大语言模型只会将其解读为“不是”，暴露出这一局限。
北美计算语言学学会主办方就该论文评价称：“论文及时地探讨了大语言模型文化偏见这一重要议题，并为可能对人工智能系统的安全性及公平性产生重大影响的未来研究提供了深刻洞见和可行方法”，“论文揭示了大语言模型中内在的文化偏见，强调必须紧急开发具备文化感知能力的语言模型，以减少社会偏见并促进人工智能技术的包容性。”
业界认为，在人工智能安全性、公平性议题日益凸显的当下，该论文不仅将对学界研究人员，也将对企业产品开发者等产生积极影响。一位业界相关人士表示：“近期‘联合国（UN）数字全球规范（Global Digital Compact）’讨论进入实质阶段，如何使‘无偏见’大语言模型普及化已成为热议话题，因此这篇论文有望为业界提供重要启示。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
