“人类水准”聊天机器人律师？美国出手整治AI夸大宣传

by Kim Jinyeong

Published 26 Sep.2024 11:18(KST)

FTC对Donotpay、Lightr等采取执法行动

在从人工智能（AI）聊天机器人法律服务到代写客户评价等多种利用生成式AI的业务不断多元化之际，美国监管当局开始展开打击行动。监管机构认为，这些企业的产品及其夸大宣传破坏了公平的市场竞争。

美国联邦贸易委员会（FTC）于25日（当地时间）宣布，对5家提供生成式AI服务的公司及风险创业企业采取执法措施。理由是这些企业以欺骗性和不公平的方式宣传AI技术，误导了消费者。

图片由 Getty Images 联合新闻供图

在遭到FTC重罚的企业中，有一家打出“世界首个机器人律师”口号的在线法律服务公司DoNotPay。DoNotPay一直宣称，使用其AI服务，客户即使不聘请律师，也可以以他人涉嫌暴力殴打为由提起诉讼，或立即生成有效的法律文件。然而，FTC指出，DoNotPay并未测试其AI聊天机器人的输出是否真的能与人类律师的水平相当。

FTC表示：“在没有证据的情况下宣传自家AI服务可以替代专业人员，今后也将被禁止”，并对DoNotPay处以19.3万美元罚款。此前，DoNotPay原计划今年2月在加利福尼亚一处法院首次尝试由AI进行辩护，但在该州律师协会的压力下撤回了计划。

代写博客或客户评价的AI工具Rytr也未能逃过FTC的监管。FTC表示，Rytr的AI服务“仅凭用户的有限输入，就能生成具体而详细的评论”，“其中大量包含虚假信息，可能欺骗并误导那些通过查看评论来做出购买决策的潜在消费者”。根据与FTC达成的和解，Rytr将停止提供代写评论服务。