“3分钟问诊”这种医生干脆用AI替代的想法 [AI错误笔记]

by Kim Dongpyo

Published 04 Jan.2025 15:00(KST)

Updated 06 Jan.2025 07:50(KST)

open/close

⑫ AI在任务层面或许表现出色
但职业不是任务简单相加而是一个“系统”
IBM只看任务替代就贸然入局结果被狠狠教训

编者按审视失败，是通往成功的捷径。“AI错误笔记”专栏探讨与人工智能相关的产品和服务、企业与人物的失败案例。

人工智能在医疗领域同样是炙手可热的议题。Getty Image Bank供图

“趁这个机会，把那种只看3分钟就捞钱的医生统统用人工智能（AI）替代掉吧！”

围绕医疗改革，政府与医疗界之间的矛盾看不到尽头。既有在就医过程中遭遇不便的患者，也有作为潜在患者的市民，都难掩对当前局势的愤怒。上面这段话，是一篇关于医政冲突报道下的一条评论，获得了无数个“点赞”。

本国患者对医生有诸多不满。2024年5月14日，国会召开了公听会，主题是“国民期望的医疗系统情景”。不满意见中排在第一位的，是以“3分钟问诊”为代表的“交流时间过短”。事实证明，这也影响了公众对扩招医学院招生名额的支持度。

那么，AI真的能够取代医生吗？医生这一职业在多大程度上暴露在AI带来的风险之下呢？

“AI之父”称：“应当停止培养放射科医生……AI更胜一筹”

诺贝尔物理学奖得主、人工智能领域权威Geoffrey Hinton曾经这样表示：

“如果你现在还想成为放射科专科医生……这就好比你不知道脚下已经没有立足之地了。
现在必须停止对放射科专科医生的培训。
在5年之内，深度学习几乎可以肯定会超越放射科专科医生。”

放射科专科医生通过阅片来发现影像中可能构成医学问题的异常征象。在AI专家Hinton看来，这显然是AI更擅长的工作。机器学习技术在从静态图像和视频中寻找并识别异常点方面表现卓越，而且随着学习量的增加，准确率还会不断提升。

ChatGPT开发公司OpenAI的联合创始人兼总裁Greg Brockman于2023年11月17日（当地时间）在自己的X（原推特）账号上发布称，“出现了一项关于疾病诊断准确性的有趣小规模研究结果”，并附上《纽约时报》（NYT）相关文章链接。

文章内容是：在疾病诊断方面，ChatGPT的表现优于人类。报道指出，人类医生的诊断准确率为74%，使用ChatGPT的医生为76%。那么，仅由ChatGPT单独诊断时，准确率是多少呢？令人惊讶的是，高达90%。

还有研究显示，利用AI发现癌症的比率比人类医生高出15%。本土医疗AI企业Lunit在美国芝加哥举行的“2024年北美放射学会年会（RSNA 2024）”上公布称，其乳腺癌诊断AI解决方案“Lunit INSIGHT MMG”的检测结果呈现出上述差异。

该研究由瑞典规模最大的私立医院“Capio Sankt Göran Hospital”主导。研究比较分析了AI引入前（2018年7月～2019年3月）的患者检查数据，与AI引入后（2023年7月～2024年3月）接受检查的5.5万余名患者的数据。

AI引入前，每1000名受检者的癌症发现率（CDR）为4.8人；引入后则为5.5人，增加了15%。在出现异常所见后为追加检查而再次召回患者的召回率（Recall rate）则从2.8%降至2.5%，下降了11%。

人类医生的另一弱点：认知偏差

人类医生还存在名为“认知偏差”的弱点。作为心理学家获得诺贝尔经济学奖的Daniel Kahneman在《思考，快与慢》一书中，详细阐述了人类认知是多么充满错误。

他向肺癌患者和医生提出了两种治疗选择：手术和放射治疗。手术的生存率更高，但与放疗不同，存在立即死亡的风险。

当被告知“手术成功率为90%”时，有82%的患者选择了手术。

然而，当说成“死亡率为10%”时，虽然只是换了一种表述方式，概率本身并未改变，但选择手术的患者却只有54%。即便是攸关性命的抉择，人们受到的影响并非来自概率本身，而是来自概率被表达的方式。

不仅是患者，医生也一样。许多外科医生在向患者说明时，倾向于说“手术生存率为90%”，而不是“手术死亡率为10%”。

韩国银行在2024年7月发布了《AI与劳动力市场变化》报告。巧合的是，分析认为医生极有可能被AI取代。韩国银行采用的AI暴露指数，是指在当前AI技术条件下可由AI执行的工作在某一职业的全部工作中所占比重。结果显示，一般医生与韩医师的AI暴露指数均进入前1%。

AI医生为何屡屡失利：职业不是任务之和，而是“系统”

无数企业将人工智能与医疗相结合，这些尝试曾以“医疗革命”之名赢得广泛赞誉。然而现实却十分冷酷。Getty Image Bank供图

仅从这些研究结果和报告来看，似乎AI早就应该取代医生了。现实情况如何呢？

现实中，医生并未被取代，反而出现了涉足AI医疗的企业出现动摇的案例。

IBM在2015年推出的Watson就是典型一例。Watson是一个基于云的人工智能平台，只要输入患者症状，就会检索过去数十年积累的临床案例以及数十万页的专业资料，为患者提出最合适的治疗方案。当时外界对其赞誉有加，称其为“医疗革命”“医学的未来”等，期待值极高。

然而，IBM的AI医疗业务却迟迟未能进入上升轨道。

2022年1月，IBM最终将医疗AI事业部Watson Health出售给美国私募基金Francisco Partners。根据2015年IBM年度报告，IBM在Watson相关业务上投资超过150亿美元（约合17.9万亿韩元），其中仅在收购医疗影像分析公司上就投入了逾40亿美元（约合4.8万亿韩元）。IBM内部一位相关人士曾表示：

“我们原以为这会很容易……但这实在太难了。”

究竟是什么绊住了IBM宏伟计划的脚步？虽然确实存在数据错误、诊断错误、伦理问题、立法缺位、监管等诸多问题，但这些都不是本质原因。根本原因在于，对“要用AI替代什么”的这一问题，给出了错误答案。迄今为止，医疗AI一直试图替代的是“任务”。然而，任务不同于职业。

一般来说，一个职业由数十项任务构成。据称，放射科专科医生的工作内容，包括简单影像阅片在内多达30余项。畅想利用AI实现个性化医疗或许并不难，但要将其付诸现实，就必须改变大量人员和组织的角色分工。

与患者的直接沟通与咨询、与其他医务人员的协作讨论、对复杂病例的临床判断、参与制定治疗方案、医疗伦理判断、法律责任与决策、医疗记录管理与报告撰写、新人医生的培训与指导等，都是其中复杂的任务。

也就是说，职业并非只是若干任务的简单集合，而是由错综复杂的责任与能力交织而成的网络。即便AI在某些具体任务上表现优于人类，也并不意味着可以直接替代整个职业，这就是原因所在。