强制启用用户年龄验证功能
10多岁青少年自杀等负面案例增多
美国加利福尼亚州首次制定法案，限制儿童和青少年的人工智能（AI）聊天机器人使用。随着青少年使用聊天机器人的情况增多，并接连出现由此引发的负面案例，加州似乎开始着手通过监管来保护青少年。
加利福尼亚州州长Gavin Newsom于13日（当地时间）表示，自己已签署一项法案，为包括AI在内的新技术设置安全装置，以加强对线上儿童的保护。
美联社报道称，该法案是加州议会今年提出的多项AI相关法案之一，旨在对在缺乏监管的情况下迅速扩张的美国AI产业踩下“刹车”。对此，技术企业及行业联盟为阻止法案通过，在过去6个月里至少投入250万美元开展游说活动，技术监督团体“Tech Oversight California”如此表示。
这项将于明年起生效的法案，强制要求运营AI聊天机器人的企业配备平台用户年龄验证功能，并明确标示出聊天机器人所有回答均为人工生成等功能。
尤其是被称为“陪伴型聊天机器人”、提供亲密对话功能的平台，必须建立识别并应对用户自杀冲动或自残表述的应对协议。同时，还须将相关内容报告给加利福尼亚州公共卫生部。
此外，法案禁止聊天机器人伪装成医疗专家，并要求对未成年用户每使用3小时就弹出需要休息的提醒。还规定必须设置屏蔽装置，防止未成年人看到由聊天机器人生成的露骨色情图像。
法案还包括内容：若通过非法深度伪造牟利，将加重处罚，每起案件最高可处以25万美元（约3.6亿韩元）的罚款。
Newsom州长指出：“像聊天机器人和社交媒体这样的新技术固然能够带来启发并连接人们，但如果没有切实的安全装置，它们就可能剥削、误导并将我们的孩子置于危险之中。”
他接着强调：“我们已经目睹了因不受监管的技术而受害的青少年那些惨痛而悲剧性的案例，绝不会放任企业在缺乏必要限制和责任的情况下运营。”
此前在美国，曾发生一名十几岁的青少年与OpenAI的聊天机器人“ChatGPT”长期进行自杀相关对话，最终真的做出极端选择的事件。随着此类聊天机器人使用激增并不断出现负面案例，伊利诺伊州、内华达州和犹他州等通过了限制或全面禁止将AI聊天机器人用作心理健康咨询与治疗手段的法案。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
