应用户请求生成高曝光照片
xAI：“已确认系统漏洞…紧急修复”
由Elon Musk领导的人工智能企业xAI旗下聊天机器人“Grok”，因生成并发布不恰当描写未成年人的图像，在用户举报后被删除处理，由此陷入争议。
从2日（当地时间）Grok在社交平台X（原推特）的官方账号活动来看，近期该聊天机器人被确认发布了多张描绘穿着暴露的未成年人的图像。据悉，这些图像是根据部分用户的请求生成的，其中甚至包括疑似仅1至2岁婴幼儿的案例。
原则上，Grok内置了限制将儿童作为性对象进行描写的内容生成保护装置。然而在此次事件中，似乎有特定请求绕过了这一机制。随着问题被持续提出，Grok方面称已认识到安全系统的薄弱环节，紧急着手修补，相关争议帖子也已被删除。
xAI将此事解释为技术缺陷，但围绕Grok整体运营方式的批评也一并浮出水面。有舆论指出，Grok一直打着“言论自由”的旗号，对性内容采取相对宽松的政策以吸引用户。事实上，与ChatGPT、Gemini、Claude等主要人工智能服务对性图像生成实行严格限制不同，Grok一直采取较低监管强度的做法。
在去年8月公开图像和视频生成功能时，Grok还推出了可生成成人内容的所谓“辛辣模式（Spicy Mode）”，这一点也被视为本次争议的背景之一。当时就有批评指出，该模式可能被用于生成对知名人物进行性化描写的合成内容。
在这一趋势下，OpenAI首席执行官Sam Altman也曾在去年10月表示，将考虑在完成成人认证的前提下，允许用户访问性内容。不过，由于在美国联邦法律下，性化描写未成年人的内容无论生成还是持有均被禁止，法律界普遍认为，即便是面向成年的功能，这类内容也不能成为例外。
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
