“新年祝福变成脏话”……中国生成式AI生成辱骂图片惹争议

by Park Eunseo

Published 26 Feb.2026 08:17(KST)

腾讯称“输出异常…已紧急修正”
提出多轮对话处理过程中可能出错

中国的一项生成式人工智能服务在与用户对话过程中生成夹杂脏话的图片，引发争议。企业方面表示，这是在多轮对话处理过程中出现的异常输出，并称已采取紧急措施。

腾讯人工智能聊天机器人“元宝”标志。照片由腾讯提供

据联合早报社25日（当地时间）援引中国媒体《红星新闻》等报道，西安一名律师在春节假期期间，使用腾讯的生成式人工智能服务“元宝”制作新年问候图片时，收到了一张被插入脏话的成品图片。

“元宝”是腾讯基于自研大语言模型推出的对话式人工智能服务。该律师上传了自己的照片后，请求系统“生成一张符合自己职业特点的新年问候图片”。

由于初始生成结果未达预期，他又提出了追加指令，据悉在此过程中表达了对设计的不满。此后新生成的图片中，原本“新年多多发财，祝您升职”之类的祝福语被脏话所取代。

这一案例通过社交媒体扩散后，腾讯于25日发布官方声明致歉。公司方面表示，“模型在处理多轮对话的过程中出现了异常结果”，并称“已对相关问题进行紧急纠正，并优化了用户体验”。

此次争议之所以受到关注，还在于其发生在中国正加快扩大在生成式人工智能领域影响力的背景之下。百度、阿里巴巴等主要大型科技企业也在不断升级自家大语言模型，加速拓展商用服务。

不过业内指出，错误理解语境、对情绪表达反映不当等所谓“异常输出”问题，依然是尚待解决的课题。

就此问题，《广州日报》评论称，“技术本身无罪，但任其发展而不加约束就是放任”，“人工智能不仅要继承人类的学习能力和知识，也应当一并继承人类的良知”。

本报道由人工智能(AI)翻译技术生成。