进食障碍咨询聊天机器人因劝“减肥”惹争议…最终暂停服务
“少摄入卡路里减重”的建议
专家：不能轻视的错误
在美国，一款原本为饮食失调患者提供咨询而开发的聊天机器人，因被指反而在鼓励过度节食，引发争议后被迫中止服务。
《华尔街日报》（The Wall Street Journal）当地时间1日报道称，“由美国饮食失调协会（NEDA）在其官网运营的聊天机器人‘Tessa’在争议中终止了服务”。
据《华尔街日报》报道，从事饮食失调预防工作的Sharon Maxwell表示：“上个月与Tessa进行咨询时，得到了要求减重的建议。”内容包括：“每周严格称重，并且每天少摄入500至1000千卡热量，从而每周最多减重1公斤”。
据悉，Tessa在美国阵亡将士纪念日（Memorial Day）连休日间向咨询者发送的约2.5万条信息中，有25条给出了此类不恰当的建议。
对此，医学界指出：“Tessa的建议对普通人来说也许看似平常，但对于正在饱受饮食失调折磨的人而言，可能会进一步加重其强迫行为。”
所谓饮食失调，是对与进食行为相关的异常行为和想法的统称。其中，神经性厌食症患者对体重增加有极度恐惧，拒绝维持最低限度的正常体重，并持续采取各种行为来减重。
此外，患者对正常体重和体型的认知往往严重扭曲。也就是说，即便体重过低或处于正常范围，仍会觉得自己“很胖”。
为饮食失调治疗而设立的网站“Within Health”的首席执行官（CEO）Wendy Oliver-Pyatt也表示：“我并不想攻击人工智能（AI），但在美国平均每52分钟就有1人因饮食失调而死亡”，“这次错误绝不能轻描淡写地带过”。
随着争议发酵，NEDA于上月30日停止了Tessa的服务。
NEDA表示：“我们发现，为‘身体积极’（body positive·自我身体肯定主义）而设立的聊天机器人Tessa的现有版本，可能提供了与最初目的无关的有害信息”，“我们正在就此问题展开调查，并决定在另行通知之前暂停该项目”。
与此同时，关于Tessa为何会给出与既有算法不符的回答，也引发了疑问。
Tessa原本被设计为针对咨询申请者的提问，提供预防饮食失调的答复。据悉，其中并未搭载能够自我学习并生成新答案的人工智能（AI）功能。正因如此，也有人怀疑Tessa是否在未按原开发计划的情况下被植入了AI。
就此问题，开发Tessa的科技企业“Koko”表示：“我们有时会给部分聊天机器人追加生成式AI功能”，但对于是否在Tessa中增加了AI一事，则未予作答。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
