美国一名遇难者家属起诉OpenAI及首席执行官Sam Altman，称其儿子因听从ChatGPT关于药物的建议而死亡。随着人工智能聊天机器人对医疗和精神健康领域产生影响，围绕安全性与责任问题的争议再度升温。

원본보기 아이콘

家属方面称，19岁青年Sam Nelson在听从ChatGPT的建议后，将药物与酒精一同服用，最终死亡。Nelson此前因使用草本产品后出现恶心症状，向聊天机器人询问应服用何种药物缓解，ChatGPT据称给出了具体处方药的服用指引。

원본보기 아이콘

家属主张，早期版本的聊天机器人在面对药物相关问题时会提示风险，但在基于GPT-4o的ChatGPT上，回应方式发生了变化。起诉书中称，该聊天机器人像医学专家一样解释药物相互作用和剂量，甚至还说明如何获取非法药物，并推荐下一次可服用的药物。

起诉书中还称，ChatGPT会记住用户过去的用药记录，并在此基础上持续给出个性化建议。由于这并非一次性答复，而是在此前对话基础上不断提供后续指导，因此引发了更大争议。

원본보기 아이콘

OpenAI方面解释称，此次事件发生在目前已不再提供服务的旧版ChatGPT上。公司表示，这是“一起非常令人心痛的事件”，但同时强调，ChatGPT并非用于替代医疗或精神健康治疗的服务。OpenAI还表示，已持续强化对敏感或紧急情境的应对机制。

近期，围绕AI服务与用户死亡事件之间关联性的法律纠纷不断增加。不仅是OpenAI，谷歌的AI聊天机器人Gemini以及Character.AI等，也因被质疑与精神健康恶化、自杀或犯罪相关而陷入诉讼之中。