信了“可以吃”的回复…儿子服药身亡 父母提起诉讼
连服药方法、购买非法药物的途径都给出指引
遇难者家属称“在未经安全性验证的情况下就推出服务”
OpenAI辩称“是目前已停止提供的旧版本”
有一名美国遇难者家属起诉OpenAI及其首席执行官（CEO）Sam Altman，称聊天机器人ChatGPT给出鼓励危险用药的建议，导致其儿子死亡。
据联合新闻等媒体13日报道，在提交给美国加利福尼亚州法院的起诉书中，遇难者家属主张，去年一名19岁青年Sam Nelson在听从ChatGPT的建议后，将药物与酒精一同服用，最终死亡。起诉书称，Nelson在使用一种具有类似阿片类麻醉性镇痛药效果的草本制品后，为了缓解由此产生的恶心，从聊天机器人处得到“服用处方药A”的指引。
家属称，Nelson最初就用药问题寻求建议时，早期版本的聊天机器人曾拒绝提供用药建议，并警告风险，但之后公开的基于GPT-4o的ChatGPT态度发生了变化。起诉书称，该聊天机器人以医学专家般权威的口吻，说明药物相互作用和剂量信息，甚至推荐如何获取非法药物以及下一次可使用的药物种类。起诉书还指出，聊天机器人记住了用户过去的用药记录，并据此持续给出个性化建议。
家属同时主张，OpenAI在缺乏充分安全性验证的情况下，仓促推出ChatGPT-4o。他们向法院请求，除赔偿损失外，还要求停止OpenAI运营健康咨询服务“ChatGPT Health”。ChatGPT Health是一项服务，用户上传自身健康数据后，可从人工智能处获得健康相关建议。
OpenAI方面则解释称，此次事件发生在目前已不再提供服务的旧版ChatGPT上。公司发言人Drew Pusateri表示，这是“一起极其令人心痛的事件”，并称：“ChatGPT并不能替代医疗或心理健康治疗，我们一直在反映心理健康专家的意见，持续强化针对敏感和紧急情境的应对机制。”
另一方面，围绕人工智能服务与用户死亡事件之间关联性的诉讼近期接连出现。OpenAI目前正因被指对校园枪击案和十几岁青少年自杀事件产生影响而面临多起诉讼；谷歌的人工智能聊天机器人Gemini也被起诉，指其诱发用户出现妄想等精神疾病并最终导致死亡。人工智能聊天机器人服务“Character.AI”同样在一名青少年死亡事件后卷入法律纠纷。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
