在技术竞争与信息审查之间…陷入AI聊天机器人两难的中国

by Lee Jieun

Published 28 Feb.2023 08:10(KST)

中国禁止腾讯等主要IT企业提供AI聊天机器人服务警惕其在美国市场增长潜力及利用自有数据充当党宣传工具 가능성

近期，中国当局对投入开发人工智能（AI）聊天机器人（Chatbot）的本国信息技术企业挥下监管之刀。AI聊天机器人通过学习海量数据，能够根据用户提问自动生成回答。这意味着，它可能向用户传递当局列为禁忌、受到管控的信息。然而，也很难一味从严管制。如果任由美国企业完全占领AI聊天机器人市场，中国在与强国的技术竞争中落于人后的局面几乎是可以预见的。既不能放弃信息管控，又不能丢掉技术实力，中国政府正陷入两难。

◆中国为AI聊天机器人开发踩下刹车……忧其传播批评共产党的信息

中国最大搜索引擎企业百度图片由路透社联合新闻提供

近期，中国政府下达了禁止提供AI聊天机器人服务的命令。23日，《日本经济新闻》援引匿名消息人士称，中国当局已指示包括腾讯在内的主要信息技术企业，不得在各自的搜索引擎中接入由OpenAI提供的“ChatGPT服务”。ChatGPT是由美国微软投资的企业OpenAI推出的一款AI聊天机器人。

据消息人士透露，去年12月，中国大型科技企业腾讯在其社交媒体服务微信上屏蔽对ChatGPT的访问，也是依据当局指示采取的措施。目前，在中国要使用ChatGPT，必须通过虚拟专用网络（VPN）突破当局的审查系统“防火长城”。

消息人士还表示，或许是认为上述措施仍嫌不足，中国政府要求本国信息技术企业在提供与ChatGPT类似的服务前，必须事先向当局报告。

中国政府如此敏感的反应，是为了阻止通过ChatGPT扩散对政府持批评态度的信息。《日本经济新闻》指出：“ChatGPT主要以西方世界的论文和书籍等为基础获取信息，而这些数据中包含大量关于中国的批评性内容”，“因此很大概率会生成对现任领导层持批判态度的回答”。

事实上，本月3日，中国信息技术企业元语智能推出的AI聊天机器人“ChatYuan”，在上线仅3天后就以违法为由被叫停服务。ChatYuan在回答关于俄罗斯—乌克兰战争性质的提问时，将其界定为“俄罗斯的侵略战争”，这与一直否认是对乌克兰发动侵略、并为俄罗斯辩护的中国政府立场截然相反。针对有关中国经济前景的提问，ChatYuan还给出“存在投资不足、房地产泡沫、环境污染等结构性问题，难以乐观看待”这样的回答。

配合中国政府的方针，中国媒体也开始密集刊发批评ChatGPT的报道。中国国有媒体《证券时报》（Securities Times）9日发表评论称，投资开发AI聊天机器人的公司存在风险。《证券时报》警告称：“与ChatGPT相关的股票明显有过热之感”，“部分资本正在诱导投资者入场，最终使其遭受损失”。

在全球范围内的ChatGPT热潮推动下，今年以来本已走强的中国AI企业股价出现暴跌。中国一家以AI为基础的人脸识别技术企业“Cloudwalk Technology”的股价在中国媒体接连发布批评报道后下跌了14%，而在上海证券交易所上市的AI相关标的“Beijing Haitian Ruisheng Science Technology”的股价则下跌了13%。

◆AI聊天机器人难以套用政府审查系统

随着当局亮出监管利剑，中国信息技术企业的AI聊天机器人开发正面临夭折危机。中国最大搜索引擎百度宣布，将于下月推出与ChatGPT类似的服务“ERNIE Bot”，但在发布之后能否稳定提供服务，尚难以保证。ChatYuan的开发者Xu Liang在接受《华盛顿邮报》（The Washington Post）采访时表示：“即便百度如期推出ERNIE Bot，也很有可能在不久后被叫停。”

关键在于中国政府是否、以及如何对AI聊天机器人服务实施审查。信息技术业界人士分析认为，AI聊天机器人很难套用中国政府迄今为止实行的审查系统。中国监管当局目前采取的做法，是将发布在互联网上的所有文字拆分到最小的词语单位进行信息审查。在这样的系统下，即便在搜索引擎中检索“维吾尔”这一词汇，搜索结果中也只会显示有关维吾尔的简单地理信息，而不会出现关于中国侵犯人权的相关内容。

然而，对于利用大型语言模型的AI聊天机器人而言，其运作方式是以概率和统计为基础，预测在某个词之后接续哪个词更为合适，再据此生成完整的语言，并以对话形式向用户提供信息。由于要计算无数种概率和统计并有机地构成语言，因此很难套用当局过去使用的那种审查方式。《华盛顿邮报》分析称：“包括百度在内的中国信息技术企业，正面临着必须审查AI聊天机器人回答中是否包含当局视为禁忌词语这一课题。”

如何构建AI聊天机器人所需学习的数据类型，也是中国企业面临的典型难题之一。《华盛顿邮报》报道指出：“百度的AI聊天机器人‘ERNIE Bot’正在学习包括维基百科（Wikipedia）和美国网络社区Reddit在内的海量西方信息”，“中国企业的聊天机器人今后必须仅以党批准的信息作为学习数据”。

◆中方预判ChatGPT成长潜力……也可能被用作党的宣传工具

中国国家主席习近平 [图片来源=韩联社提供]

尽管采取了强硬应对措施，但中国政府实际上似乎也颇感不安。由于未经审查的“原始信息”大量涌入，只得先行叫停服务，但对于AI聊天机器人市场将持续成长这一前景，当局似乎并无异议。

中国科学技术部一名高级官员Zhang Jichang在24日的记者会上表示：“像ChatGPT这样的技术，能够推动人工智能与社会、经济的融合，并有可能被应用于众多产业。”《环球时报》同日也报道称，中国政府将把人工智能技术作为新的增长动力，并暗示将出台具体支持措施。

更何况，对中国而言，也难以坐视作为霸权国家的美国独占AI聊天机器人市场。根据市场分析机构国际数据公司（International Data Corporation）的预测，截至2026年，中国为培育人工智能产业而投入的资金将达到260亿美元（约合34.372万亿韩元）。这相当于全球人工智能相关投资总额的9%。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

如果中国政府通过自有数据提供AI聊天机器人服务，还可能将其作为党的宣传工具加以利用。比如，若AI聊天机器人完全以由中国当局控制的数据为基础进行学习，当局就可以只向用户提供符合其意愿的信息。总部位于中国北京的信息技术企业Marbridge Consulting的创始人Mark Natkin预测称：“如果AI聊天机器人的开发能够与中国当局的政策目标保持一致，它将承担起一个更高效的渠道角色，向民众传递政府希望他们接收的信息。”

한글 기사 보기

本报道由人工智能(AI)翻译技术生成。