世卫组织：“在医疗领域使用生成式人工智能需谨慎，警惕虚假信息”

世界卫生组织（WHO）警告称，在医疗领域使用包括ChatGPT在内的生成式人工智能（AI）时，可能会提供虚假信息。

世界卫生组织于16日（当地时间）通过声明表示，在使用人工智能技术中的大型语言模型（LLM）时，需要进行严格验证并保持警惕。

大型语言模型是在海量数据中获取的知识基础上，对复杂信息进行处理、分析和预测，从而以人类使用的自然语言进行回答的技术，是ChatGPT、Google Bard等生成式人工智能的基础技术。

世界卫生组织表示：“在缺乏专家验证的情况下使用大型语言模型，会导致医务人员出现错误并对患者造成伤害”，“结果可能削弱人们对整个人工智能领域的信任，从而损害该技术的潜在益处。”其还指出：“在医疗领域训练人工智能所使用的数据本身就存在偏见，可能会生成不准确或具有误导性的信息”，“这类内容难以与真实内容区分，因而可能被滥用于生成和传播虚假信息。”

世界卫生组织强调，在将大型语言模型广泛应用于日常健康管理、药品等医疗领域之前，政策当局和医学界必须先解决上述担忧。也就是说，大型语言模型在医疗领域可以发挥正面作用，但前提是必须经过严格的验证和监管。

必读新闻

“月薪150万不如去美国年入5亿” 首尔大·KAIST人才纷纷收拾行囊 [科学家正在消失]①

• 闪耀的“韩技术”正被迫出海流失…连补贴都发了却说“不能上市”
• “无药可治却扩散加速”……已致105人死亡恐慌蔓延，美国人亦被感染
• 歌手 Kim Minjong 回应 MC Mong 赌博爆料：“明显属虚假…将采取法律措施”
• 不再用“国会议员”头像改成“木匠”形象…Ryu Hojung：“身材写真这事可干不了第二回”

此外，世界卫生组织表示，还必须审视用于卫生健康领域的人工智能是否遵守医疗伦理原则。其提出了若干原则，包括：以人类福祉、安全和公共利益为核心，具备透明的可解释性与清晰性，保护个体自主性，确保责任机制，体现包容性与公平性，以及具备高响应性和可持续性等。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。