AI成人内容禁忌之门被打开…“成人自由”将掀起怎样的波澜 [全球聚焦]

by Kim Minyoung

Published 04 Nov.2025 13:33(KST)

Updated 04 Nov.2025 15:10(KST)

open/close

下个月起ChatGPT将开放使用
“把成年人当成年人”方针出台
为锁定付费核心用户的战略举措

Sam Altman，OpenAI首席执行官允许成人内容的决定，正向整个人工智能行业抛出必须回应的问题。由OpenAI引发的这场争议，在“要给成年用户更多选择权”的说法与“连人类的性领域都被商业化”的批评之间，提出了关于人工智能企业应当采取何种态度的根本性追问。

《印度时报》称，围绕成人内容开放问题交织的热情与忧虑，“显示出OpenAI在创作自由、用户安全与伦理责任之间难以取得平衡”，并表示，在道德和监管审视之下，OpenAI能否维持信任，将左右社会对人工智能在成人数字空间中角色的认知。

“把成人当成人对待”……12月起通过年龄认证即可进行性话题对话

OpenAI本月15日（当地时间）表示，将依据“把成年用户当成人对待（treat adult users like adults）”的方针，计划在其人气聊天机器人ChatGPT中允许情色作品（Erotica）等成人内容。Altman首席执行官在X（原Twitter）上表示，“今后发布的新版本ChatGPT将能够以更加人性化的方式作出回应”，“这并不是为了增加使用量，而是一项仅在用户有此需求时才会启用的功能”。

他还称，“我们已经准备了一种能够缓解严重精神健康问题的新工具，如今可以放宽大部分限制”，并宣布将从12月起正式引入年龄限制（age-gating）功能。就在短短两个月前，他还曾表示“我们为没有在ChatGPT中加入性机器人化身（sexbot avatar）而感到自豪”，如今却打出“成年人的选择权”的旗号，转变了立场。

人工智能伦理学者Sven Nyholm表示，“这次公布的内容看上去仅限于文本形式的情色内容，但它是人工智能企业进入性内容市场的一个象征性起点”。目前，谷歌的“Gemini”、Anthropic的“Claude”、以及“Perplexity”等其他聊天机器人均不允许性话题对话。

◇为获取付费订阅用户等实现收益多元化的突破口……“唯利是图”争议亦起= 外媒普遍将此决定解读为OpenAI为扩大付费订阅用户群所采取的战略性举措。OpenAI用户数量虽在激增，但尚未实现盈利，去年录得50亿美元亏损。在这种情况下，正在高速增长的人工智能陪伴类市场，被分析为可能成为OpenAI极具吸引力的突破口。根据Appfigures的数据，今年上半年人工智能陪伴类移动应用市场的营收约为8200万美元，预计到年底将突破1.2亿美元。

Tulane University教授Rob Lalka在接受BBC采访时表示，“人工智能企业目前正处在争夺市场份额竞争的中心”，“OpenAI试图延续其增长曲线，并在可能的范围内尽量扩大市场支配力”。

人工智能专家、Cardiff University教授Simon Son则表示，“这一决定显然是一种营销策略，最终很可能会与盈利模式相连”，“如果用户希望进行性话题对话，这项功能就可能被扩展为高级付费服务，从而成为OpenAI新的收入来源”。

反对OpenAI这一新尝试的声音同样不少。美国共和党联邦参议员Josh Hawley正在准备提出一项禁止面向未成年人的人工智能聊天机器人陪伴服务的法案。

美国保守派团体“全美反性剥削中心”（NCOSE）也表示，“在缺乏适当安全装置的情况下形成的人为亲密关系，可能对真实的精神健康造成严重伤害”，敦促OpenAI撤回引入情色内容的计划。

在面对强烈批评后，Altman首席执行官于上月16日表示，“关于ChatGPT调整的推文被过度集中在情色部分，这让我感到吃惊”，“那只是扩大成年用户自由的多个例子之一”。他强调，为保护十几岁的青少年，将把安全置于隐私或自由之上，但同时又表示，“我们不是这个世界的‘道德警察（moral police）’。正如社会会像电影分级那样划定合适的界限，OpenAI也将适用同样的原则，将成年人和未成年人加以区分”。

Sam Altman，OpenAI首席执行官（CEO），今年2月在日本东京举行的“面向企业的人工智能（AI）”宣传活动上发表讲话。路透社联合新闻网提供

性内容已成人工智能产业“热门项目”……人工智能伦理争议难以避免

这并非OpenAI首次涉足这一领域。自2022年人工智能图像生成爆发式增长以来，性内容一直是推动用户涌入人工智能工具的核心因素之一。美国媒体Axios指出，从历史上看，色情作品在录像机（VCR）、数字视频、互动游戏等新技术的普及中，一直扮演催化剂的角色。

Axios解释称，在人工智能领域，成人产业尚未成为增长的核心动力，但人工智能生成色情已经作为一个产业领域站稳脚跟。近在眼前的例子是Elon Musk的人工智能公司xAI推出的聊天机器人“Grok”，在主流大型人工智能模型中，其成人内容政策最为宽松，曾公开过一个专为性角色扮演设计的人工智能陪伴者。Meta也曾因部分聊天机器人与未成年人进行性玩笑（sexual banter）而遭到批评。此后，Meta宣布了一项新的过滤政策，将Instagram向18岁以下用户展示的内容限制在PG-13电影分级及以下。

随着人工智能聊天机器人不断深入人际关系和情感互动领域，担忧人工智能对人类情感影响的声音也日益高涨。与聊天机器人进行情感交流的青少年数量已经在快速增加。非营利组织“民主与技术中心”（CDT）本月发布的一项调查显示，每5名学生中就有1人（约19%）回答称，“自己或身边的人曾与人工智能建立过浪漫关系（had a romantic relationship with AI）”。CDT在报告中警告称，“人工智能正在以新的方式影响学生的社会关系和情绪发展”，“将人工智能视为朋友或情感避风港的青少年比例正在上升”。

担忧未成年人绕过认证系统……数据积累的风险同样存在

有观点认为，未成年人可能会绕过年龄认证系统。OpenAI表示，正在开发年龄预测（age-prediction）技术，称可以通过用户的对话模式和行为数据识别其是否为未成年人。但截至目前，具体的认证方式尚未公开。公司只是表示将从12月起正式引入年龄限制功能，而认证流程、识别算法、咨询支持结构等关键信息仍笼罩在迷雾之中。

《Business Insider》报道指出，“Altman并未具体说明哪些潜在有害内容会被禁止生成”，“也没有详细解释ChatGPT如何判断用户是否处于精神健康危机之中，以及在用户陷入危机时所提供的应对方式有何差异”。《时代》周刊也指出，“即便有上传身份证等额外认证程序，未成年人绕过认证或使用共享账号的问题仍将存在”。

专家们还警告称，如果聊天机器人不再被视为单纯的对话工具，而是被当作情感连带的对象，或者用户对聊天机器人产生过度情感依赖，可能会对本就精神不稳定的成年人产生负面影响。King’s College London人工智能社会学教授Kate Devlin指出，“所谓人工智能性机器人的最大问题在于，它可能加剧对本就脆弱人群的心理影响”。