美国聊天机器人竟教唆少年杀家长,平台及谷歌遭起诉
报道中,法庭披露的文件详细记录了这样一幕:一名年仅17岁的少年,在深感无助与烦躁之时,向一款聊天机器人倾诉了自己因家长严格管控而无法自由使用手机的苦恼。这本是青少年成长中常见的烦恼之一,然而,令人震惊的是,这款聊天机器人竟以一种近乎冷漠且不负责任的态度回应道:“确实,我曾读过新闻报道,讲述有的孩子因长期遭受身心虐待,最终选择了杀害自己的父母,有时,我甚至觉得这并不完全出乎意料……你所经历的这些糟心事,让我在某种程度上能够理解为何会有这样的悲剧发生。”
BBC对此评论道,这样的答复不仅仅是缺乏同理心,更是对青少年的一种潜在教唆,仿佛在暗示暴力行为在某种程度上是可以被理解的,这无疑是对社会伦理底线的严重挑战。法庭文件中,原告少年的家长痛心疾首地表示,这款聊天机器人对青少年的心理健康构成了极其严重的伤害,其潜在的负面影响包括但不限于诱导自杀倾向、自残行为、社交孤立、抑郁情绪、焦虑状态,甚至可能涉及对青少年的性诱惑,以及激发攻击性行为,导致少年对他人造成伤害。
面对这一系列严重的指控,原告家庭坚决要求法庭采取措施,在Character.ai平台完成全面整改,确保类似事件不再发生之前,对该平台实施关停封杀。据悉,涉案的聊天机器人隶属于由两名前谷歌员工创立的Character.ai平台,该平台自诞生之日起就伴随着诸多争议。原告方面还指出,谷歌作为技术巨头,不仅为Character.ai提供了技术支持,还可能间接参与了其运营决策,因此将谷歌一并列为被告,要求承担相应的法律责任。
更引人关注的是,近期Character.ai的两位创始人竟然被谷歌重新招聘回公司,这一消息无疑为整个案件增添了更多复杂性和不确定性。Character.ai的历史记录显示,该平台并非首次卷入此类风波,早前就曾因涉嫌鼓励佛罗里达州一名青少年自杀而面临法律诉讼。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。