加强ChatGPT用户保护：检测到自残风险将通知亲友

by Koo Nari

Published 10 May.2026 10:54(KST)

向“信任联系人”发送短信等提醒
不提供聊天原文等内容

当与ChatGPT的对话中检测到严重自残风险信号时，将引入一项可通知亲近之人的功能。

10日，OpenAI表示将在ChatGPT中引入“信任联系人”（Trusted Contact）功能。该功能允许成年用户预先登记1名可信赖的人，例如▲家人 ▲朋友 ▲监护人等，当ChatGPT检测到严重自残忧虑时，协助用户与现实世界的帮助资源建立联系。用户可在ChatGPT设置中登记1名信任联系人，在本国仅限成年人登记。该功能是基于ChatGPT儿童保护功能中的“安全通知”系统构建的。

当在与用户的对话中检测到严重自残忧虑相关表述时，该系统会说明ChatGPT可能向信任联系人发送通知，并给出对话示例，帮助用户主动联系对方。随后，经过专业培训的审核人员会重新评估情况，如判断确有安全隐患，将通过▲电子邮件 ▲短信 ▲应用通知等形式向信任联系人发送提醒。但通知内容不包括对话原文等信息。

用户可随时修改或删除“信任联系人”，也可随时解除与已登记联系方式的关联。对方也可以随时请求删除。

OpenAI表示，该功能是在其全球专家网络以及身心健康与人工智能专家顾问委员会等机构的建议基础上设计完成的，并与美国心理学会（APA）等外部专业机构合作。

OpenAI政策负责人Koh Kisuk表示，人们通过ChatGPT解决问题、反思个人困惑，有时用户可能正经历艰难时刻，“从这一点出发，我们认为人工智能系统必须被设计成在此类情境下能与现实世界的帮助资源建立联系，因此推出了这一功能”。