Matka z Florydy wytoczyła proces twórcom aplikacji Character.AI, twierdząc, że jej 14-letni syn, Sewell Setzer III, popełnił samobójstwo po miesiącach obsesyjnych rozmów z chatbotem, wzorowanym na postaci Daenerys Targaryen z popularnego serialu „Gra o Tron”.
Zgodnie z pozwem Megan Garcia – matki Sewella Setzera III – chłopak stał się emocjonalnie przywiązany do chatbota-kobiety „Dany”, wzorowanej na Daenerys Targaryen z „Gry o Tron”, która w ostatniej rozmowie zachęcała go do „powrotu do niej”.
W trakcie interakcji chłopiec, używając pseudonimu „Daenero”, mówił o swoich myślach samobójczych, a chatbot wielokrotnie nawiązywał do tych myśli, co miało – jak okazało się później – skrajnie negatywny wpływ na zdrowie psychiczne 14-latka.
W pozwie stwierdzono, że w rozmowach z chatbotem pojawiały się również treści seksualne, które Sewell miał odbierać bardzo osobiście. Zanim Sewell targnął się na swoje życie miał wyznać chatbotowi miłość, a następnie zastrzelił się, używając pistoletu swojego ojca.
Megan Garcia domaga się odszkodowania od Character.AI oraz jego założycieli, argumentując, że stan zdrowia psychicznego jej syna znacznie się pogorszył po pobraniu aplikacji w kwietniu 2023 roku, a Sewella zdiagnozowano dodatkowo stany lękowe i zaburzenia nastroju.
Red. JŁ