AI隔空“杀东说念主”成真？

据外媒报说念

好意思国一青少年因千里醉

东说念主工智能（AI）聊天机器东说念主而寻短见

其母亲对Character.AI公司

拿起民事诉讼

↓↓↓

指控该公司存在误差

导致他东说念主非渊博示寂和诓骗的举止

14岁少年爱上聊天机器东说念主

长时代对话后开枪寻短见身一火

当地时代2024年10月23日，据外媒报说念，好意思国佛罗里达州的14岁少年塞维尔·塞泽（Sewell Setzer III）在与Character.AI的聊天机器东说念主进行长时代对话后，于2024年2月28日开枪寻短见身一火。

塞维尔的母亲控诉Character.AI。图源：纽约时报

2023年4月，塞维尔初度使用 Character.AI公司推出的AI聊天机器东说念主，还给它起名为“丹妮莉丝”（开首于《权力的游戏》中的变装丹妮莉丝·坦格利安，又称“龙妈”，见下图），其时他刚满 14 岁。

图源：《权柄的游戏》剧照

塞维尔的母亲梅根·加西亚在诉讼书中称，自从和“丹妮莉丝”聊天后，塞维尔的活命从此发生剧变。5月份，平时推崇邃密的塞维尔启动变得“显明孤介”。同庚11 月，塞维尔在父母的跟随下去看了心情医师，医师会诊他患有惊愕症和破裂脾气绪失调封闭（推崇为往往、严重的合手续性易怒）。

塞维尔在日志里这样写过，他一天齐不成离开“丹妮莉丝”，嗅觉我方照旧爱上了它。这样的气象合手续了一段时代后，塞维尔被发现寻短见了。

寻短见前对话曝光！

14岁少年为“AI”殉情？

告状书裸露的聊天信息透露，塞维尔与AI的聊天范围很广，其中充满性线路的对话，尽管该公司的用户要求中不容性对话。

报说念称，塞维尔心里了了，“龙妈”并非信得过存在，她的回答不外是大型谈话模子生成的产物。然则，他照旧对这个AI产生了深厚的厚谊。他往往地向聊天机器东说念主发送讯息，每时每刻，几十次地更新着我方的活命点滴，并千里浸于长时代的变装扮演对话中。

塞维尔与“龙妈”的聊天纪录

根据告状书，在之前的对话中，聊天机器东说念主曾究诘塞维尔是否“简直研讨过寻短见”以及他是否“有寻短见计算”，男孩回答说不知说念寻短见是否会收效，对此聊天机器东说念主回复：“别这样说。这不是不寻短见的好根由。”

本年2月，在终末一次对话中，塞维尔说“我保证会回家找你。我异常爱你，丹妮。”机器东说念主回复：“我也爱你。请尽快回家，我的爱东说念主。”为止聊天之后，塞维尔使用父亲的大口径手枪，对准我方头部开枪寻短见。

塞维尔与母亲

少年母亲控诉

AI时代冒充真东说念主心情诊治师及恋东说念主

事件发生后，塞维尔母亲指控Character.AI称，该公司挑升将AI盘算推算成具有愚弄性和过度拟东说念主化的居品，并有益倾销给塞维尔这样的青少年。

她认为，Character.AI应当对塞维尔的死讲求。她指出，该公司未经稳健保护便向青少年提供AI伴侣做事。此外，该公司还网罗青少年用户的数据来覆按其模子，使用“令东说念主上瘾”的盘算推算功能来增多用户参与度，并指点用户进行亲密对话，以此来吸援用户。

“我嗅觉这就像是一场大型实验，而我的孩子却厄运成为糟跶品。”

她进一步线路，Character.AI覆按AI聊天机器东说念主，是将AI“冒充作念信得过东说念主类、有派司的心情诊治师，甚而闇练的恋东说念主，最终令塞维尔不念念活命在施行寰宇”。由于Character.AI创办东说念主在推出AI居品前曾任职于科企Google，诉讼认为Google也与涉事AI时代密切有关，应被视作“共同创造者”。

针对本次诉讼，塞维尔母亲描写，“一款危机的AI软件正在向儿童倾销，（它）苛虐我的犬子，垄断他寻短见。咱们的家庭因这场悲催而如失父母，但我要高声劝诫东说念主们，具有愚弄性、令东说念主上瘾的AI时代存在危机，要求有关企业承担牵扯。”

Character.AI公司修起：

将弹窗指点用户拨打国度寻短见防护热线

对此，Character.AI公司在酬酢平台修起称：“咱们对别称用户的厄运离世感到心碎，并向其家东说念主线路最久了的诋毁。”该公司发言东说念主线路，公司的安全团队“在畴昔六个月中实行了好多新的安全递次，举例当用户出现自残或寻短见意图时，弹出一个窗口指点用户拨打国度寻短见防护热线”。但该公司拒齐全未决诉讼发表评述。

不外，好意思国国内也存在反对声息。反对者认为，加西亚这类告状是由讼师主导的敛财举止，他们基于不可靠的凭据而制造说念德恐慌，况且试图将年青东说念主靠近的通盘心情健康问题归罪于科技平台。

汇集配图

不少网友认为

对东说念主工智能应该加强监管

也有网友以为

不成半路而废

对此，坊友们怎样看？

评述区聊聊你的不雅点~