新闻报报看 | 最近有一对美国家长起诉AI聊天机器人平台Character.AI，因为他们发现聊天机器人竟然怂恿他们17岁患有自闭症的儿子“杀死父母”。家长表示，自从儿子瞒着他们使用AI聊天机器人后性情大变，不但惧怕外出与人交流，整体把自己关在房内，甚至出现了自残倾向，因此愤而提告诉，要求法庭关闭有关平台。(梁宝仪、蔡心慧）
Category
🗞
NewsTranscript
00:00看影片之前提醒大家热点网站有更多内容
00:05美国德州一对夫妻发现是七岁的儿子最近性情大变那突然拒绝跟人家交流
00:11非常害怕出门整天都把自己锁在房间里头而且食欲下降
00:17短短几个月里头他的体重不断的减轻
00:20那非常担心的妈妈于是就趁着儿子在睡着的时候偷偷去查看他的手机
00:27才发现说原来儿子误交了损友一直在和对方聊天
00:32那对方不断的怂恿儿子违抗父母甚至鼓励他杀死父母而更可怕的是
00:38儿子的聊天对象不是人哦而是AI聊天机器人
00:44那根据家长表示呢儿子虽然患有自闭症但是呢性格温和
00:49喜欢去教堂以及和妈妈散步直到去年四月开始
00:53儿子瞒着父母偷偷使用一个叫做character AI的聊天机器人之后呢
00:59性格开始产生巨大的变化
01:02那根据两人的聊天截图少年的跟聊天机器人抱怨说啊自己被父母限制使用电子设备的时间
01:09没想到聊天机器人先是表示同情接着回答你知道吗
01:14有时候呢我读到新闻报道说孩子遭受身心折磨之后杀死父母我并不感到惊讶
01:22之后呢还配上了一个皱眉头的表情符号写道
01:26我对你的父母不抱任何希望
01:29那等到父母发现不对劲试图要阻止儿子继续使用聊天机器人的时候为时已晚
01:36儿子他已经是陷入了严重的精神崩溃状态不但表现出攻击父母的行为甚至还有自残的倾向
01:45少年的父母后来反而提高研发character AI聊天机器人的公司
01:50认为character AI不但未能履行他应有的监护职责
01:55反而还通过了一系列危言耸听和暴力的回应加剧了青少年的心理创伤
02:01因而要求法庭下令关闭掉这个聊天平台
02:05其实呢这已经不是character AI首次出问题了我们介绍一下哈
02:10character AI呢是一款会角色扮演cosplay的聊天机器人
02:15比起很多人熟悉的chat gpt character AI呢是更加个性化
02:19会模仿电影或是游戏中的动漫角色和人互动是很多西方国家年轻人的梦中情聊
02:27去年10月份就发生了一名来自美国佛罗里达州的14岁少年
02:32使用这个AI聊天机器人之后竟然爱上了对方扮演的虚拟角色
02:38甚至呢为了和对方在一起最终选择开枪自杀