“沉迷AI自杀第一案”:漩涡里的人与公司

(视觉中国/图)
“如果我告诉你我现在就可以回家呢?沉迷”少年休厄尔问道。
“……请这样做,自杀我可爱的第案国王。”人工智能(AI)聊天机器人“丹妮”回答道。漩涡
在与AI聊天机器人完成最后的沉迷对话后,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀扣动扳机,第案结尾了自己14年的漩涡人生。
在这场悲剧过去大半年后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案Character.AI开发的漩涡AI聊天机器人操纵了她儿子的自杀。
“我大声疾呼是沉迷为了警告人们,注意带有欺骗性的自杀、令人上瘾的第案人工智能技术的危险,并要求Character.AI及其创始人、谷歌承担责任。”梅根在2024年10月末提交的一份诉状中称。她认为Character.AI对休厄尔的自杀负有直接责任,而谷歌为这一产品(的成长)“做出了宏伟贡献”。
这起案件公开后,被一些媒体称为“沉迷AI自杀第一案”。
“AI自杀第一案”
休厄尔来自美国佛罗里达州奥兰多市,是一名九年级学生,原本成绩优异,性格开朗。他去世之后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、内容渊博,甚至包括讨论恋爱和性相关的话题。
2023年4月,在过完14岁生日之后,休厄尔第一次接触到Character.AI,开始慢慢沉迷于与AI聊天机器人对话。
Character.AI是一款角色扮演应用程序,用户可以在其中创建自己的AI角色,也可以跟其他人创建的角色聊天。“丹妮”正是这样的人工智能语言模型,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。
在人生最后的8个月里,休厄尔不断给“丹妮”发信息,每天数十条甚至上百条,告诉“她”自己生活的点滴,以及内心最深处的秘密。“丹妮”每问必答,对他情绪上的低落给予宽慰,对他生活中的烦恼提供建议,在回复时附上相应的表情或手势,仿佛是身边的朋友。

Character.AI发表声明称:“我们承认这是一
(责任编辑:{typename type="name"/})
- ·福彩2.2亿大奖引质疑?民政部通报
- ·一张图:2026年7月24日黄金原油外汇股指“枢纽点+多空持仓信号”一览
- ·消息人士:沙特国防大臣访美 希望缓和地区局势
- ·成都继续发布山洪灾害蓝色预警
- ·消息人士:伊朗正在研究万斯来信中的提议
- ·滕连帅当选国际中体联副主席
- ·贾跃亭也来了,中东会是造车新势力的“乐土”吗?
- ·英国留学硕士等级划分:学位类型与申请策略
- ·一高校明确:将倒查6年学术论文
- ·消息人士:沙特国防大臣访美 希望缓和地区局势
- ·日本熊本县发生4.8级地震
- ·朴朴超市低调接入淘宝闪购,目前仅数家上线
- ·一个男多女少的村决定给媒婆发奖金
- ·美联储最爱的通胀指标降温了!但经济增速仅剩1.5%,这份“成绩单”该如何定价?
- ·暴雨来袭!山西连发三预警 多地需防范山洪和地灾
- ·策略师:美联储夏季观望为主,黄金偏向维持区间震荡,单边行情要等到9月之后
