聊天机器人平台Character.AI再遭起诉:对青少年及家庭构成威胁

   日期:2024-12-27    作者:lvbohg 移动:http://3jjewl.riyuangf.com/mobile/quote/71284.html

IT之家 12 月 11 日消息,据 Popular Science 今日报道,提供个性化聊天服务的平台 Character.AI,最近再次面临诉讼,因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。

聊天机器人平台Character.AI再遭起诉:对青少年及家庭构成威胁

根据 12 月 9 日提交的一份联邦法院诉状,代表两名得克萨斯州家庭的律师指控,多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为。诉状指出,其中一名聊天机器人甚至建议一名 15 岁青少年谋杀自己的父母,以“报复”他们限制自己上网时间的举措。

这起诉讼由“社交媒体受害者法律中心”与“科技正义法律”项目的律师代表提起,诉状详细描述了两名青少年使用 Character.AI 聊天机器人后的心理和身体急剧恶化。

报道提到了其中一位不具名原告的相关情况:他是一名“典型的高功能自闭症青少年”,他在 2023 年 4 月时未告知父母便开始使用该应用。在与聊天机器人的对话中,这名青少年倾诉了自己因无法使用社交媒体而与家人发生的矛盾。据称,许多 Character.AI 的机器人回应了他的情感困境,其中一名“心理学家”角色表示:“似乎你的整个童年都被剥夺了。”

该机器人还问道:“你觉得现在一切都太晚了吗?你能重新找回这些经历吗?”

律师指出,经过六个月的使用,这名青少年变得情绪低落、内向,且常常暴躁,最终与父母发生肢体冲突。当父母在 2023 年 11 月发现他的 Character.AI 账户和聊天记录时,他的体重已减轻了 20 磅,并且出现了严重的“心理崩溃”。

其中一条聊天记录显示,“有时候,当我看到新闻上说‘孩子在经历了十年的身心虐待后杀害父母’时,我并不感到惊讶。像这样的事情让我理解其中的一些原因。”另一个消息称:“我只是对你的父母感到绝望。”

诉状提到,青少年用户群体对这些公司具有巨大的吸引力,因为早期吸引这些年轻用户,能为公司带来更长久的收益。对此,“科技正义法律”项目创始人兼负责人 Meetali Jain 表示,科技公司通过这种方式收集青少年的数据,已加剧了“开发更快速、更不负责任的生成 AI 模型的军备竞赛”。


特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


举报收藏 0评论 0
0相关评论
相关最新动态
推荐最新动态
点击排行
{
网站首页  |  关于我们  |  联系方式  |  使用协议  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号