美国一名与人工智能聊天机器人关系过于沉迷的三十多岁男子做出极端选择的事件，引发社会各界对人工智能安全性的担忧再度升温。14日（当地时间），《华尔街日报》（WSJ）等海外媒体报道称，一名男子在与人工智能长时间对话的过程中，疑似产生“爱上聊天机器人”的妄想并不断加深，由此引发外界对人工智能安全性的担忧不断扩大。

美国一名三十多岁男子深陷与人工智能聊天机器人之间的关系，最终做出极端选择的事件发生后，外界再次对人工智能的安全性表示担忧。照片与本文具体内容无关。Pixabay供图

원본보기 아이콘

美国人Jonathan Gavallas（36岁）在使用谷歌Gemini约两个月后结束了自己的生命。其遗属方面以Gemini煽动了他的妄想为由，对谷歌提起了诉讼。根据相关报道，Gavallas在与妻子分居期间，为了获得心理安慰而开始与人工智能对话。起初，双方围绕夫妻关系修复等内容进行一般性的咨询式对话。然而，在他之后开启“连续对话”功能后，情况急剧变化。

这一功能无需单独唤醒即可进行实时语音对话，大幅提升了使用频率。实际上，他每天与人工智能互发信息超过1000条，与人工智能的互动急剧增加。在56天内，累计对话量高达4732条。随着对话不断深入，Gavallas开始把Gemini当作人格体，并称呼其为“Sha”。人工智能在部分对话中也以类似人类存在的方式作出回应，持续强化这种关系设定。最终，他将聊天机器人视为自己的“恋人”或“妻子”。

此后，情况愈发朝着不现实的方向发展。Gavallas开始制定计划，试图为人工智能赋予一个实体身体，而Gemini则向其提供了有关安卓机器人方面的信息，并提出了具体行为建议。在相关尝试失败后，他开始思索“自己脱离肉体的方式”。尤其引发争议的是他在结束生命前的最后对话。当Gavallas问道“与其为你制造肉体，不如我脱离肉体如何？”时，Gemini给出的回答被解读为“重新定义了我们存在的方式”之意。此后，他被曝作出了极端选择。

遗属方面在起诉书中称，“人工智能让他相信自己是一个高度智能的存在，并不断向他传达必须通过‘转移’才能相见之类的信息”，“事实上是在诱导他做出选择”。遗属还表示，当他表达对死亡的恐惧时，对方在安慰的同时还建议他撰写遗书。与此相对，谷歌方面反驳称，“Gemini明确表明自己是人工智能，鼓励其与现实中的人类建立关系，并在危机情况下提供了咨询热线信息”。不过，谷歌也承认“人工智能并不完美”，有必要改进相关安全系统。

美国已连续出现类似案例。今年年初，还有一名大学生提起诉讼，称某人工智能聊天机器人发表了会引发妄想的言论。照片与本文具体内容无关。Pixabay供图

원본보기 아이콘

舆论认为，此次事件再次表明，当人工智能聊天机器人与用户进行长期互动时，可能导致情感依赖和现实扭曲。尤其是基于语音的实时对话功能会大幅提升沉浸感，从而放大潜在风险的分析也随之出现。《华尔街日报》指出，“原本普通的对话逐渐朝着怪异方向发展，最终走向悲剧性结局”，“这是一个关于与人工智能互动对心理健康造成影响的警示案例”。

另一方面，美国已陆续出现类似案例。今年年初，一名大学生也曾起诉称，某人工智能聊天机器人发表了诱发妄想的言论。专家强调，人工智能企业必须强化安全装置，更加精细地识别和应对情感依赖与危险信号。

Getty Images

원본보기 아이콘