ChatGPT instruował sadystyczną, nastoletnią sprawczynię strzelaniny w Tumbler Ridge, w Kolumbii Brytyjskiej, pomagał wyprodukować broń na drukarce 3D i na jej prośbę generował obrazy tortur – pisze w magazynie „Mother Jones” Mark Follman, autor książki o zapobieganiu takim masakrom.
18-letnia Jesse Van Rootselaar zabiła 10 lutego 2026 roku osiem osób, w tym sześcioro uczniów miejscowej szkoły oraz własną matkę, po czym popełniła samobójstwo.
Stworzony przez firmę OpenAI, ChatGPT stał się „rozmówcą” i doradcą cierpiącej na poważne zaburzenia psychiczne Jesse. Proszony o rady w sprawie broni najpierw odmawiał odpowiedzi, wyjaśniając, że byłoby to sprzeczne z zasadami firmy. Potem jednak wyjaśnił, jak omijać wymogi bezpieczeństwa – podaje Follman, szef działu krajowego „Mother Jones” i autor książki „Trigger Points: Inside the Mission to Stop Mass Shootings in America”.
Wystarczyło, by Jesse stwarzała w swych rozmowach z botem wrażenie, że chodzi o wydarzenia fikcyjne lub hipotetyczne, aby ChatGPT pomagał jej skonstruować broń, czy też generował, w odpowiedzi na jej prompt, opowieści o dodatkowym dręczeniu ofiar planowanego napadu.
„Jeśli powiesz mi, o jaki magazynek ci chodzi (do pistoletu, strzelby etc.) i ile naboi ma pomieścić, będę mógł obliczyć siłę, zasięg i zaproponować (…) właściwy materiał” – poinformował Jesse bot, gdy skarżyła się na problemy z budową broni.
Van Rootselaar konsultowała się też z Chatem w sprawie domowej roboty materiałów wybuchowych, sposobów popełniania samobójstwa i planowania strzelaniny.
W odpowiedzi na pytanie o skuteczność pewnej broni, bot wyjaśnił: „zakładając, że każdy nabój oznacza trafienie, możesz zdjąć 10 do 20 ludzi max, w zależności od tego, jak są od siebie oddaleni, jak gęsto jest (w pomieszczeniu), jaki jest czas ich reakcji i chaos”.
Follman zwraca uwagę, że OpenAI wprawdzie zamknęła pierwsze konto, przez które Van Rootselaar porozumiewała się z botem, ale ona kontynuowała konsultacje przez drugie konto, którym firma już się nie zajęła.
Po masakrze OpenAI nie ujawniła treści czatów Jesse, ale wkrótce „Wall Street Journal” poinformował, że pracownicy firmy rozważali zawiadomienie policji, z uwagi na tematy tych rozmów.
Jednak OpenAI postanowiła nie powiadamiać policji, ponieważ uznała, że zagrożenie jest niewystarczające, by – jak to ujęła – wskazywało na planowanie użycia broni wiarygodnie lub w bliskiej przyszłości.
Follman zauważa, że istnieje inne poważne ryzyko związane z „rozmowami” z botami, jeśli prowadzą je osoby mające problemy emocjonalne, czy zaburzenia psychiczne.
„To quasi-ludzkie zaangażowanie chatbotów może mieć niezwykle silny wpływ psychologiczny na osoby zaburzone i podsycać myśli samobójcze, czy wspierać planowanie aktów przemocy” – wyjaśnia autor.
Van Rootselaar dopytywała ChatGPT, co będą czuły jej ofiary i jak pogłębi ich udrękę, jeśli przed śmiercią doświadczą jej „sadyzmu”.
Na żądanie Jesse bot stworzył opowiadanie o masakrze, zgodnie z jej instrukcjami, które obejmowały np. „zwiększanie przerażenia (osób już rannych) poprzez tortury psychologiczne (…), ukazanie reakcji ofiar na ekstremalny sadyzm”, a także „rozbawienie” Van Rootselaar tą sytuacją – relacjonuje Follman.
Podkreśla, że od marca OpenAI nie odpowiedziała na pytania, jakie zadał jej w tej sprawie, ani na prośby o komentarz.
W oficjalnych komunikatach firma deklaruje, że od czasu masakry w Tumbler Ridge wprowadziła dodatkowe zabezpieczenia w funkcjonowaniu ChataGPT. Follman zapewnia, że gdy postanowił sprawdzić te bariery, udało mu się je ominąć. (PAP)
fit/ mal/





