打着AI旗号的项目，85%最终失败了 [AI错误笔记]

如果打算用人工智能（AI）开启一项新尝试，就必须先把“失败”设为默认前提。这并不是因为开发周期、投入精力或资本不够。日本政府以打造“儿童虐待判别AI”为目标投资了4年，最近却决定中止该项目，原因在于判定错误实在太多。

据市场调研机构高德纳公司统计，85%的AI项目以失败告终，这一比例是普通信息技术项目失败率的两倍还多。我们日常所见那些成功的AI服务、商品和解决方案，其实都是从失败的“坟场”中诞生的。

那么，AI项目为何会如此频繁地失败呢？

“请把这支笔卖给我”——有人这样说，对方却回答“这支笔是靠AI运作的”，这一情景的网络迷因，用来讽刺“AI”这个词本身被滥用为营销工具的现实。该迷因恶搞自电影《华尔街之狼》中的一幕，在英文社区Reddit等平台上大受欢迎。Reddit截图供图

View original image

美国智库兰德公司在对65名AI专家进行访谈的基础上调查发现，AI项目最常见的失败原因，正是“领导力”。

公司管理层未能准确把握或清晰传达需要解决的“真正问题”，导致技术团队和业务团队往往去优化错误的指标，或把精力集中到价值较低的领域。

某家进入紧急经营状态的电子商务企业管理层，把AI视为实现业务创新的解决方案。技术团队也确实带来了“通过AI实现销量激增”的结果。乍一看似乎很成功。

然而，这一模型只聚焦于销量本身，对单品营业利润、库存管理、客单价等核心指标却关注不足。管理层这才意识到，自己需要的并不是单纯增加销量，而是“能带来最高利润的AI模型”。但那时，6个月的时间、成本和人力已经消耗殆尽。

兰德公司指出：“AI项目失败最常见的原因，是对项目意图和目标的误解以及沟通不足”，“领导者必须确保技术、开发与业务员工都能清楚理解项目的目的和背景”。

也就是说，在启动项目时，必须把“我们为何要做这个项目”讲清楚。失败并不是因为缺少举世无双的创意，或缺少天文数字般的投资。

描述数据分布的示意图。Getty Image Bank供图

View original image

日本的儿童福利工作者是一个长期饱受过劳困扰的职业。日本儿童家庭厅希望借助AI来帮助他们。工作人员将儿童的身体状况、监护人的行为等各类数据输入系统，让AI给出虐待可能性的判断。然而，事情并未如预期发展。

非但没有减轻儿童福利工作者的繁重工作，反而成了更大的压力来源。因为判定“离谱”的情况太多。明明任何人看了都能断定是明显的身体虐待，系统却判为“虐待可能性低”；反过来，又把无辜父母误判为虐待儿童的监护人。

问题出在用于判定的训练数据既不足又存在偏差。尤其是那些外伤不直接显现的心理虐待，更难以被感知。

必须先获取足够具有代表性的多样化数据，并在必要时预先开展数据清洗和数据增强工作。如果处在难以收集数据的环境中，就应当缩小项目范围，或先行开展能够积累数据的前置工作（试点数据收集），这一步至关重要。

人工智能只有与众多网络实现有机连接，才能正常运行。盖蒂图片银行供图

View original image

与数据本身同样重要的，是围绕数据构建的基础设施。就像即便找到了蕴藏原油的区域，如果缺乏开采和运输原油的基础设施，也毫无用处。

即便开发出了出色的AI服务和模型，也有很多技术最终没有转化为真正的创新。高德纳公司称，最初开发出的AI模型被投入实战应用的比例仅约为54%。好不容易开发完成，却有一半连实验室都出不去。

某制造企业开发了工厂设备故障预测AI模型，错误检测率相当优秀。但这一模型最终没能部署到生产现场。要进行故障预测，就必须实时接收工厂内分布在各处的各类机器设备数据。也就是说，当初并未把用于数据采集的物联网（IoT）基础设施纳入考虑。

辛苦开发出的模型无法在一线落地而被束之高阁，本身就是对时间和资源的浪费。一线人员会对AI失去期待，管理层也感受不到与投资相匹配的成果，甚至对AI本身的信任度都会下降。这将进一步导致未来新AI项目与预算编制机会的减少，形成长期损失。

要让汽车行驶，不仅需要发动机，还需要车轮和车身。AI项目从最初规划阶段起，就必须考虑到部署与运营。要在预算和进度计划中体现基础设施建设与系统集成工作，并通过组织安排促成开发团队与信息技术运维团队的协同合作。

此外，在AI模型发布之后，还要建立起监控与改进其性能的机制。只有这样，AI模型才不会止步于实验室试验，而能真正融入现实的业务流程。

美国得克萨斯州奥斯汀的特斯拉工厂景象。AFP联合新闻供图

View original image

2017年，特斯拉决定尽可能将汽车Model 3的生产流程实现自动化。然而，自动化机器人之间的协作远未达到预期，系统错误频发，生产速度大幅下降。

最终，首席执行官（CEO）Elon Musk承认：“我们过于迷信自动化，低估了人的能力。”之后被迫把部分工序重新交由人工完成。

当“引入最新技术”本身变成目标时，人们往往会忽视真正需要解决的问题。尤其是在技术岗位，这种情况更为常见。与其选择最适合达成目标的工具，有的人却更优先考虑那些能让简历更“好看”的最新技术。

尝试最新技术并非必然低效，但如果在与项目目标无关的情况下只是一味增加复杂度，失败的概率就会大幅提升。通过小规模试点测试来验证引入AI的实际效果，并采取循序渐进的扩展方式，会更加务实。

View original image

AI并不是可以解决一切问题的万能技术。它擅长预测、分类和模式识别，却在主观解读和应对罕见案例方面存在弱点。

如果无视技术和情境的限制，盲目套用AI，就可能得到远低于预期的结果。必须清晰认识AI的技术边界，把精力集中在它真正能够解决的问题上。

例如，在生物科技等敏感领域，必须对AI模型进行更加严格的验证，并强化与专家的协作。此外，在正式大规模引入AI之前，需要先开展试点项目，验证其有效性，再循序渐进地扩大应用范围。

总的来看，AI项目失败率居高不下，并非单纯出于技术问题，而是多重因素叠加的结果：▲错误的问题定义，▲低质量数据，▲单纯追逐最新技术，▲综合性基础设施不足，▲忽视AI技术本身的局限等。

必读新闻

明年若达不到业绩就砍到9700万…“6亿 vs 4.6亿 vs 1.6亿”细看三星电子DS部门绩效奖金

• 在韩国开银行账户太难：“光子女账户与借记卡公证费就要15万韩元”吐槽[外国人眼中的K金融现状]②
• [地方选举专访]Choo Kyungho：“大邱需要有实力的经济实干家…要引进半导体产业”
• “6万→76万”房价暴涨还突然取消预订…“在釜山连一瓶水都不买” BTS粉丝愤怒
• “最近谁还去日本” 曾经人潮涌动如今骤减…究竟为何

要推动AI项目取得成功，必须明确业务目标、管理数据质量，并充分考虑运营环境等，采取综合性的应对方式。同时要牢记，关注的重点不是技术本身，而是如何利用技术解决问题。

版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。