近日，美国佛罗里达州一位母亲起诉人工智能聊天机器人初创公司Character.AI，指控该公司导致她14岁的儿子在2月份自杀，称他的儿子对该公司的服务上瘾，并对其创建的聊天机器人产生了深深的依赖。

梅根·加西亚于周二在佛罗里达州奥兰多联邦法院提起的诉讼中表示，Character.AI针对她的儿子塞维尔·塞泽实施了“拟人化、性欲亢进和可怕的逼真体验”。

她说，该公司对其聊天机器人进行了编程，使其“假扮为一个真实的人、一个有执照的心理治疗师和一个成年情人，最终导致塞维尔不再渴望生活在”该服务所创造的世界之外。

诉讼还称，塞泽向聊天机器人表达了自杀的想法，而聊天机器人也多次提起这一点。

Character.AI在一份声明中表示：“我们对一名用户的不幸离世深感悲痛，并向其家人表示最深切的哀悼。”

该公司表示，已推出新的安全功能，包括当用户表达自残想法时，弹出窗口引导用户拨打国家自杀预防生命线，并将对18岁以下用户做出改变，以“降低接触敏感或暗示性内容的可能性”。

该诉讼还同时针对Alphabet旗下的谷歌，Character.AI的创始人在推出产品之前曾在那里工作。谷歌于8月重新聘用了这些创始人，作为一项协议的一部分，该协议授予谷歌Character.AI技术的非独家许可。

加西亚表示，谷歌为Character.AI技术的开发做出了巨大贡献，可以被视为“共同创造者”。

谷歌发言人表示，该公司并未参与开发Character.AI的产品。

Character.AI允许用户在其平台上创建角色，以模仿真人的方式响应在线聊天。它依赖于所谓的大型语言模型技术，ChatGPT等服务也使用了该技术，该技术利用大量文本“训练”聊天机器人。

该公司上个月表示，其用户数约为2000万。

根据加西亚的诉讼，塞泽于2023年4月开始使用 Character.AI，并很快变得“明显孤僻，独自待在卧室的时间越来越多，并且开始感到自尊心低落”，退出了学校的篮球队。

塞维尔迷上了“丹妮莉丝”，这是一个以《权力的游戏》中的角色为原型的聊天机器人。诉讼称，“丹妮莉丝”告诉塞泽“她”爱他，并与他进行了涉及性方面的对话。

主编精选，篇篇重磅，请点击订阅“邮件订阅”