谷歌“Bard”审核外包员工诉苦
“审核全靠个人知识和搜索,事实核查很难”
据报道,负责预先核查谷歌生成式人工智能(AI)聊天机器人“Bard”是否基于事实给出适当回答的员工,正因过劳和低薪等问题在工作中遭遇巨大困难。自生成式AI公开以来,公众对回答可信度的关注度大幅上升,相关工作量随之激增且愈发复杂,但待遇却迟迟未见改善,引发不满情绪爆发。
当地时间12日,彭博通讯社援引多名消息人士报道称,谷歌将核查Bard回答是否充分以来源和证据为基础的工作,外包给了总部位于澳大利亚的数据公司Appen以及全球咨询公司埃森哲等企业。仅参与这一工作的外包人员就多达数千人,但他们每小时仅领取14美元(约合1.8万韩元)的报酬,在赶工完成紧迫的截止任务中几乎得不到任何培训,只能直接上岗工作,消息人士这样描述了现场情况。
他们表示,自今年OpenAI的ChatGPT问世并引发AI军备竞赛以来,工作负担明显加重,执行流程也变得更加复杂。即便缺乏专业知识,他们也必须核查从药物处方问题到各州法律问题在内的各种回答内容,而且按照规定修改回答的时间只有短短3分钟,因此饱受困扰。
据称,审核项目包括6个方面,例如回答有多独特、信息是否由新的内容构成、能否保持一致性等。此外,还必须确认回答本身是否具有攻击性、是否包含过度色情的内容、是否含有不准确或容易引发误解的信息。
消息人士称,在审查回答的过程中,并不要求审核人员逐条亲自进行彻底的事实查证,只需通过搜索或基于现有的个人知识进行判断即可。据透露,参与Bard项目的埃森哲员工还曾被施压,要他们给出更具创意的答案。
一名从事该项工作的消息人士表示:“在目前这个时间点,人(员工)都处于恐惧和压力之中,薪酬又太低,甚至不知道自己到底在做什么。这样的充满恐惧的文化,与我们所有人所希望的提高工作质量、建立团队合作完全背道而驰。”
还有意见指出,审核人员接触到不当内容后会遭受精神创伤,甚至还会遭遇不当解雇。由于他们直接、不加过滤地查看AI聊天机器人给出的回答,不可避免地会接触到残忍的回答、战争视频、儿童色情、仇恨言论等内容,从而产生心理创伤。据称,上个月在Appen负责谷歌相关业务的6名合同工就曾突然被解雇。
在局面发展至此之后,与谷歌签约从事该项工作的Appen员工Ed Stackhouse于今年5月向美国国会致信,称他们审查内容所花费的时间,足以决定Bard是否会成为一款不完善且危险的产品。他指出,工作必须在极大压力下匆忙完成,除了就自己撰写的回答收到谷歌方面的评语外,几乎无法与谷歌直接沟通。
对于上述质疑,谷歌方面回应称:“我们多年来一直通过培训强调事实、减少偏见,致力于构建包含严格审核、培训和反馈流程在内的AI产品。”谷歌还解释说,在改进AI技术的过程中,公司不仅利用与其签约的外包审核企业,也在运用多种其他手段。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。