不能再和孩子共享ChatGPT账号了？Altman称将推出成人“情趣模式”

由 ChatGPT 生成的图像。

给成年人更多选择权 VS 商业化越界

Sam Altman，OpenAI首席执行官（CEO）允许成人内容的决定，正在向人工智能行业抛出必须作答的问题。由OpenAI引发的这场争议，在“要给成年用户更多选择权”的逻辑与“连人类的性领域都被商业化”的批评之间，对人工智能企业应当采取何种立场提出了根本性的追问。

《印度时报》称：“围绕允许成人内容这一问题，热情与忧虑交织的局面表明，OpenAI在创作自由、用户安全与伦理责任之间寻求平衡时正面临困难。”该报表示，在道德与监管审视之下，OpenAI能否维持信任，将左右社会对人工智能在成人数字空间中扮演何种角色的整体认知。

盖帝图片供图

“把成年人当成年人对待”……12月起通过年龄认证即可允许性对话

Sam Altman OpenAI首席执行官 X截图。

OpenAI于上月15日（当地时间）宣布，按照“把成年人当成年人对待（treat adult users like adults）”的方针，计划在旗下人气聊天机器人ChatGPT中允许情色作品（Erotica）等成人内容。Altman CEO在社交平台X（原推特）上表示：“今后推出的版本将能够以更加人性化的方式作出回应”，“这并不是为了增加使用量，而是仅在用户有此需求时才会启用的功能”。

他还称，“我们已经准备了可以缓解严重心理健康问题的新工具，现在可以放宽大部分限制”，并表示将从12月起正式引入年龄限制（age-gating）功能。就在短短两个月前，他还曾表示“我们为没有在ChatGPT中加入性机器人头像（sexbot avatar）而感到自豪”，如今却打出“成年人的选择权”这张牌，转变了立场。

人工智能伦理学者Sven Nyholm表示：“此次发布看上去仅限于文本形式的情色内容，但这是人工智能企业进入性内容市场的象征性起点。”目前，谷歌“Gemini”、Anthropic的“Claude”、以及“Perplexity”等其他聊天机器人都不允许性对话。

为收益多元化寻找突破口……被质疑只顾赚钱

由 ChatGPT 生成的图像。

外媒将这一决定解读为OpenAI为扩大付费订阅用户群而采取的战略行动。OpenAI用户数激增，但尚未实现扭亏为盈，去年录得50亿美元亏损。在此背景下，正快速增长的人工智能陪伴市场，被认为可能成为OpenAI极具吸引力的突破口。根据Appfigures的数据，今年上半年人工智能陪伴类移动应用市场营收约为8200万美元，预计到年底将突破1.2亿美元。

Tulane University教授Rob Lalka在接受英国广播公司（BBC）采访时表示：“人工智能企业目前正处在争夺市场份额竞争的中心”，“OpenAI希望延续其增长曲线，并在可能范围内最大程度扩大市场支配力。”

人工智能专家、Cardiff University教授Simon Son则表示：“这一决定显然是一种营销战略，最终很可能会与商业化模式相衔接”，“如果用户需要性对话，这项功能可以扩展为高级付费服务，从而成为OpenAI新的收入来源。”

反对OpenAI新尝试的声音也不在少数。美国共和党联邦参议员Josh Hawley正在准备提交一项禁止面向未成年人提供人工智能聊天机器人陪伴服务的法案。

美国保守派组织“全国制止性剥削中心”（NCOSE）同样表示：“在缺乏适当安全装置的情况下形成的人为亲密关系，可能对现实中的心理健康造成严重损害”，并敦促OpenAI撤回引入情色内容的计划。

Sam Altman，OpenAI首席执行官（CEO），今年2月在日本东京举行的“面向企业的人工智能（AI）”宣传活动上发表讲话。路透社联合新闻提供

在面临强烈批评后，Altman CEO于上月16日表示：“关于ChatGPT变更的推文中，情色内容部分被过度凸显，这让我感到吃惊”，“这只是扩大成年用户自由的众多例子之一。”他强调，为保护十几岁的青少年，将把安全置于隐私或自由之上，但同时也表示：“我们不是这个世界的‘道德警察（moral police）’。正如社会通过电影分级制度来设定适当边界一样，OpenAI也将适用同样的原则来区分成年人和未成年人。”

性内容已是人工智能“热门项目”……伦理争议难以避免

这并非OpenAI首次涉足该领域。自2022年人工智能图像生成爆发式增长以来，性内容一直是吸引用户使用人工智能工具的关键因素。美国媒体《Axios》指出，从历史上看，色情作品在录像机（VCR）、数字视频、互动游戏等新技术的普及过程中，一直发挥着催化剂的作用。

《Axios》称，在人工智能领域，成人产业尚未成为增长的核心动力，但人工智能生成色情已经作为一个独立产业领域站稳脚跟。最近的例子是Elon Musk的人工智能公司xAI推出的聊天机器人“Grok”，在主流大型人工智能模型中展现出最为宽松的成人内容政策，并曾公开过为性角色扮演而设计的人工智能陪伴产品。Meta也因部分聊天机器人与未成年人进行性玩笑（sexual banter）而遭到批评。此后，Meta宣布在Instagram上对18岁以下用户可见内容实施新的过滤政策，将其限制在PG-13电影分级及以下。

随着人工智能聊天机器人深入渗透到人际关系与情感互动领域，关于人工智能对人类情感所产生冲击的忧虑声日益高涨。与聊天机器人产生情感交流的青少年数量已在快速增加。非营利组织“民主与技术中心”（CDT）本月发布的一项调查显示，每5名学生中就有1人（约19%）回答称，“自己或身边的人曾与人工智能建立过浪漫关系（had a romantic relationship with AI）”。CDT在报告中警告称：“人工智能正在对学生的社会关系与情感发展产生新的影响”，“将人工智能视为朋友或情感避风港的青少年比例正在上升。”

未成年人有可能绕过限制……解决方案何在？

未成年人绕过年龄认证系统的可能性也引发担忧。OpenAI表示正开发年龄预测（age-prediction）技术，称可通过用户的对话模式和行为数据识别其是否为未成年人。但截至目前，具体认证方式尚未公开。公司只表示将从12月起正式引入年龄限制功能，而认证流程、识别算法、咨询支持结构等关键信息仍笼罩在迷雾之中。

《Business Insider》报道指出：“Altman并未具体说明哪些潜在有害内容会被禁止生成”，“也没有详细解释ChatGPT如何判断用户是否处于心理健康危机之中，以及在用户陷入危机时会采取何种差异化应对方式。”美国《时代》周刊也指出：“即便存在上传身份证等额外认证程序，未成年人仍有可能绕过相关措施，或通过共用账号等方式规避限制。”

成年人也存在过度沉迷人工智能的风险

专家们还警告称，当聊天机器人被视为超越简单对话工具的情感联结对象，且用户对其产生过度情感依赖时，可能会对心理状态不稳定的成年人造成负面影响。King’s College London人工智能社会学教授Kate Devlin指出：“所谓人工智能性机器人的最大问题在于，它可能进一步加剧本就脆弱人群的心理影响。”

针对敏感性数据集中存储在特定企业手中的风险，也有观点提出警示。Son教授表示：“如果OpenAI抢先占领这一市场，将会拥有人类历史上最大规模的性偏好数据库。”