Prokuratura okręgowa Manhattanu zablokowała 12 stron internetowych służących sprzedaży pornograficznych deepfake’ów, czyli fałszywych obrazów i nagrań tworzonych lub modyfikowanych za pomocą sztucznej inteligencji. Zawierały one wizerunki ok. 1200 osób – podała w poniedziałek ABC News.

Hiperrealistyczne materiały opublikowane na zablokowanych stronach dotyczyły znanych aktorów, polityków, sportowców, muzyków, działaczy społecznych i influencerów. Ich nazwisk nie ujawniono.

Prokurator okręgowy Manhattanu Alvin Bragg określił materiały jako „przerażające naruszenia prywatności”, a operację jako największe dotychczas przejęcie stron zajmujących się pornografią deepfake. – Nie tolerujemy wykorzystywania seksualnego w żadnej formie, w tym udostępniania i sprzedaży pornografii deepfake – oświadczył Bragg, cytowany przez ABC News.

Podkreślił, że w stanie Nowy Jork bezprawne jest rozpowszechnianie bez zgody zarówno prawdziwych intymnych zdjęć i filmów, jak też materiałów stworzonych lub zmodyfikowanych przy użyciu AI. Śledztwo rozpoczęło się po zgłoszeniu kobiety, która odkryła swój wizerunek na jednej z pornograficznych stron.

„Nie byłoby nas tutaj, gdyby nie odwaga ofiary, która zgłosiła nam, że na stronie znajdują się jej wizerunki. To doprowadziło do przejęcia stron” – wyjaśnił prokurator Bragg.

Według ABC News liczba stron oferujących pornograficzne deepfake’i gwałtownie wzrosła w ciągu ostatnich dwóch lat, a w internecie mogą krążyć miliony takich materiałów. Prokurator podkreślił, że wiele ofiar nie wie o wykorzystywaniu ich wizerunku, a część osób nie wie, gdzie szukać pomocy.

– To, co robicie, jest przestępstwem. Prowadzimy dochodzenie i wspieramy ofiary w usuwaniu tych treści – ostrzegł prokurator twórców i operatorów stron.

Z Nowego Jorku Andrzej Dobrowolski (PAP)

ad/ san/