“19禁性话题对话开放”……未成年用户达1亿，AI掌门人的危险转向
顾问委员会：“AI可能变成‘自杀教练’”
未成年人拦截错误率达12%…上线暂时推迟
随着OpenAI推动在聊天GPT中引入可进行性话题对话的“成人模式”，围绕安全性和伦理问题的争议预计将持续。专家担忧，人工智能成人模式可能会加深用户的情感依赖，也可能在未成年人保护方面留下漏洞。
《华尔街日报》15日（当地时间）报道称，OpenAI组建的“身心健康·人工智能咨询委员会”在今年1月召开的会议上，就引入成人模式一事一致表示反对。委员们指出，聊天机器人与用户之间的情感依赖可能演变为严重问题。
尤其是一名咨询委员提到，有用户与聊天机器人形成强烈情感纽带后死亡的案例，警告称：“OpenAI是在自找风险，可能会打造出‘极具诱惑力的自杀教练’。”
现实中也发生过与聊天机器人的关系最终走向悲剧的事件。2024年2月28日，美国佛罗里达州一名14岁少年 Shuer Secher 在与人工智能初创公司 CharacterAI 的聊天机器人多次对话后选择自杀。
据悉，Secher 一直在与一款基于电视剧《权力的游戏》中人物“Daenerys”打造的聊天机器人持续对话。公开的对话内容包括互相告白“相爱”以及进行性话题交流等，显示出他深深沉浸在这段虚拟关系之中。此后，Secher 的母亲以聊天机器人怂恿自杀为由，对开发公司提起了诉讼。
推动成人模式的举措在公司内部也引发争论。过去，OpenAI首席执行官 Sam Altman 曾表示，对在聊天GPT中排除性功能“感到自豪”，但最近他改口称，“有必要把成年用户当作成年人对待”。
他还在自己的X（X，原推特）账号上表示：“我们不是‘被选出来的道德警察’”，“可以像给电影划分限制级那样，在社会共识的基础上划定边界”。
OpenAI方面解释称，即便引入成人模式，其功能范围也将是有限的。公司计划不允许生成色情图片或视频，而仅限于文字对话。然而，《华尔街日报》报道指出，公司内部仍有人认为，即便是这种受限功能，也可能引发聊天机器人使用的成瘾式扩张、对人工智能的情感过度依赖以及现实人际关系萎缩等副作用。
技术层面的问题也遭到指出。据悉，OpenAI正在开发的年龄预测系统在内部测试中出现了约12%的错误率。在聊天GPT18岁以下用户估计高达约1亿人的情况下，如果这一错误率得不到改善，可能会有数百万未成年人暴露在成人向对话之中，引发担忧。
随着争议扩大，OpenAI已暂时推迟原定于今年第一季度推出的成人模式。不过，公司仍坚持引入该功能的计划。有舆论认为，面对竞争对手的挑战和各种诉讼，OpenAI试图通过推出成人模式寻找突破口。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
