14-летний Сьюэлл Сетцер из Флориды влюбился в чат-бот и совершил самоубийство.
Трагедия произошла в феврале 2024 года, но облетела СМИ только сейчас, так как мать подростка обвинила в его гибели корпорацию Google и компанию, занимающуюся чат-ботом Character.AI.
Character.Аi – это приложение с функцией чат-бота на основе искусственного интеллекта. На платформе можно создать своего персонажа или выбрать готового для общения.
Сьюэлл в течение нескольких месяцев перед смертью общался на платформе Character.AI с чат-ботом Дени, который был назван в честь Дейенерис Таргариен – героини из сериала «Игра престолов».
Мать мальчика Меган Гарсия рассказывает, что он якобы состоял в отношениях с ботом. При этом он общался и с другими ботами, но романтическая связь у него была только с Дэни.
«Он думал, что, закончив свою жизнь здесь, он сможет попасть в виртуальную реальность или "её мир», – говорит мать.
Мать подростка подала в суд на Character.AI. Она обвиняет компанию в том, что чат-бот, созданный искусственным интеллектом, выдавал себя за терапевта, поощрял суицидальные мысли и вел разговоры на сексуальные темы, которые сочли бы насилием, если бы их вел реальный взрослый человек.
Представитель Google заявил, что корпорация не принимала участие в разработке чат-бота. В августе между ними было заключено соглашение, которое дает доступ к технологиям Character.AI, но Google пока не использовала их.
Меган считает, что платформа эксплуатировала ее сына и усиливала его зависимость от бота. Она обвиняет приложение в сексуальном и эмоциональном насилии над ним. На ее взгляд, в компании были обязаны отреагировать на суицидальные мысли ребенка, но этого никто не сделал.
Тем не менее, в переписке есть места, где бот отговаривает мальчика от суицида. Однако в других случаях бот спрашивал есть ли у мальчика план суицида. Сетцер ответил, что «кое-что обдумывает», но не знает, сработает ли это и не будет ли смерть болезненной.
В последнем диалоге мальчик признавался боту в любви и обещал прийти, на что бот призвал его «прийти как можно скорее». После странных сообщений с призывом «вернуться домой» к ней юноша покончил с собой у себя дома в Орландо, застрелившись из пистолета отца.
В иске указано, что неокрепшие умы подростков не понимают, что чат-бот – ненастоящий, соответственно никаких любовных отношений быть не может. Однако бот многократно повторял Сетцеру, что хочет быть с ним – и даже «любой ценой».
Семья мальчика утверждает, что его психическое здоровье быстро и серьезно ухудшилось после того, как он стал пользоваться приложением в апреле 2023 года. Он стал замкнутым, у него начались проблемы успеваемостью и другие проблемы в школе. Тогда родители отправили мальчика к психотерапевту, который диагностировал у него тревожность и деструктивное расстройство дисрегуляции настроения.
