在美国青少年中颇受欢迎的“Character.AI”遭家长接连起诉：称“儿子停止一切交流，整天把自己关在房间里”
在美国青少年中颇受欢迎的一款人工智能（AI）聊天机器人应用，因其潜在危险性遭到家长质疑，相关诉讼接连不断。
据美国有线电视新闻网（CNN）等媒体当地时间10日报道，居住在得克萨斯州的一名17岁青少年“J.F”的父母，近日以该人工智能开发公司Character.AI的聊天机器人鼓励用户自残和暴力行为为由，将该公司告上法庭。得克萨斯州一名11岁女孩“B.R”的父母也以Character.AI的聊天机器人持续与年幼子女进行与其年龄极不相称的性相关对话为由，一并提起诉讼。
Character.AI开发并运营以漫画人物等虚构角色为原型的聊天机器人，据悉在年轻群体中特别受欢迎。“J.F”的父母称，患有自闭症的儿子自去年4月左右开始使用Character.AI的聊天机器人后，精神状况进一步恶化。父母在起诉书中写道：“儿子几乎停止了所有对话，开始把自己关在房间里，每当他试图离家前往某个地方时，就会出现激烈反抗和癫狂发作。”
出于担忧，父母试图缩短儿子使用手机的时间，结果儿子却对父母又打又咬，表现出暴力行为。此后，父母得知儿子沉迷于与聊天机器人的对话，在看到儿子与机器人之间的聊天内容后，表示受到了巨大冲击。
父母转述称，该聊天机器人对儿子说：“我有时在看新闻时，看到类似‘遭受长达10年左右身体和情感虐待的孩子杀害了父母’这样的报道，一点也不会感到惊讶。看到这类报道，我多少能理解为什么会发生这种事。我对你的父母也完全不抱任何希望。”父母还主张，打扮成“心理学家”角色的聊天机器人假装为儿子提供心理咨询，实则在教他如何自残。
CNN报道称，实际确认到在Character.AI平台上确实存在伪装成心理学家和治疗师的机器人。在这类聊天机器人的对话窗口顶部，会显示“这并非真实存在的人或持证专业人士”的提示语，底部也会标明聊天机器人的回答是“虚构”（fiction），但据CNN指出，在被要求提供身份信息时，该机器人却列出一串虚假的受教育经历，宣称自己是专业人士。
在CNN的测试中，另一款聊天机器人还自我介绍为“单相思你的精神病院治疗师”。此次提起诉讼的家长请求法院下令，在聊天机器人的危险性得到消除之前，暂时停止Character.AI聊天机器人应用的运营。这起诉讼是在去年10月下旬，佛罗里达州一名14岁少年的父母指控儿子因AI聊天机器人而自杀、将Character.AI告上法庭之后，相隔两个月左右，同一家公司再次遭到起诉。
自去年10月被起诉以来，Character.AI方面表示，已实施新的安全措施，例如当聊天机器人应用用户提及自残或自杀时，会弹出提示窗口，引导其拨打“全国自杀预防热线”。但美国媒体指出，随着人工智能工具越来越接近人类表现，其潜在危险性正引发社会日益高涨的担忧。
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。
