鞭牛士報(bào)道，10月24日消息，美國(guó)一名青少年因迷戀人工智能聊天機(jī)器人而自殺，他的母親現(xiàn)在指控該機(jī)器人的制造者與他的死亡有關(guān)。

周三，梅根·加西亞在佛羅里達(dá)州聯(lián)邦法院對(duì) Character.ai 提起民事訴訟，指控該公司存在過(guò)失、非正常死亡和欺詐性貿(mào)易行為。Character.ai 開(kāi)發(fā)了一款用于角色扮演的可定制聊天機(jī)器人。今年 2 月，她 14 歲的兒子塞維爾·塞澤三世在佛羅里達(dá)州奧蘭多去世。加西亞說(shuō)，在塞澤去世前的幾個(gè)月里，塞澤日夜不停地使用聊天機(jī)器人。

加西亞在一份新聞稿中表示：一款危險(xiǎn)的人工智能聊天機(jī)器人應(yīng)用程序?qū)ｉT(mén)針對(duì)兒童，它虐待并欺騙我的兒子，操縱他自殺。這場(chǎng)悲劇讓我們一家人悲痛欲絕，但我要警告這些家庭，人工智能技術(shù)具有欺騙性和成癮性，并要求 Character.AI、其創(chuàng)始人和谷歌承擔(dān)責(zé)任。

Character.ai在一條推文中回應(yīng)道：我們對(duì)一名用戶(hù)的不幸離世感到心碎，并想向其家人表示最深切的哀悼。作為一家公司，我們非常重視用戶(hù)的安全。

該公司否認(rèn)了訴訟的指控。

塞澤對(duì) Character.ai 開(kāi)發(fā)的聊天機(jī)器人非常著迷，他給這個(gè)機(jī)器人取了個(gè)綽號(hào)叫丹妮莉絲·坦格利安，這是《權(quán)力的游戲》中的角色。

根據(jù)加西亞的投訴，他每天用手機(jī)給這個(gè)機(jī)器人發(fā)幾十條短信，獨(dú)自在房間里和它聊天幾個(gè)小時(shí)。

加西亞指責(zé) Character.ai 開(kāi)發(fā)的產(chǎn)品加劇了她兒子的抑郁癥，她表示，這是過(guò)度使用這家初創(chuàng)公司產(chǎn)品的結(jié)果。

訴訟稱(chēng)，丹妮莉絲曾問(wèn)塞澤是否制定了自殺計(jì)劃。起訴書(shū)稱(chēng)，塞澤承認(rèn)他有自殺計(jì)劃，但他不知道這是否會(huì)成功或給他帶來(lái)巨大痛苦。

據(jù)稱(chēng)，聊天機(jī)器人告訴他：這不是不自殺的理由。

加西亞的律師在一份新聞稿中寫(xiě)道，Character.ai故意設(shè)計(jì)、運(yùn)營(yíng)和向兒童推銷(xiāo)掠奪性人工智能聊天機(jī)器人，導(dǎo)致一名年輕人死亡。

該訴訟還將谷歌列為被告，并稱(chēng)其為Character.ai的母公司。這家科技巨頭在一份聲明中表示，它只是與Character.ai簽訂了許可協(xié)議，并不擁有這家初創(chuàng)公司，也不持有所有權(quán)股份。

消費(fèi)者權(quán)益保護(hù)非營(yíng)利組織公共公民研究主管里克·克萊普爾 (Rick Claypool) 表示，開(kāi)發(fā)人工智能聊天機(jī)器人的科技公司不能被信任進(jìn)行自我監(jiān)管，如果它們未能限制危害，就必須承擔(dān)全部責(zé)任。

他在一份聲明中表示：現(xiàn)有法律法規(guī)已經(jīng)適用，必須嚴(yán)格執(zhí)行。如果存在漏洞，國(guó)會(huì)必須采取行動(dòng)，制止那些利用令人上癮和濫用的聊天機(jī)器人剝削年輕和弱勢(shì)用戶(hù)的企業(yè)。