Prokurator generalny Teksasu Ken Paxton złożył w piątek, 23 października, pozew przeciwko firmie OpenAI oraz jej dyrektorowi generalnemu Samowi Altmanowi. Urzędnik zarzuca gigantowi technologicznemu wprowadzanie konsumentów w błąd co do bezpieczeństwa ChatGPT oraz zapewnienie niewystarczającej ochrony użytkownikom, a w szczególności dzieciom i nastolatkom. Stan domaga się między innymi zakazania udostępniania chatbota osobom niepełnoletnim na terenie Teksasu oraz wprowadzenia niezależnych kontroli nowych modeli sztucznej inteligencji przed ich publicznym udostępnieniem.
Pozew trafił do sądu stanowego w powiecie Collin. Według stanowej prokuratury generalnej OpenAI reklamowała swoje produkty jako bezpieczne, wiarygodne i niezawodne, jednocześnie nie informując w wystarczającym stopniu o potencjalnych zagrożeniach.
W dokumentach wskazano przypadki, w których chatbot miał udzielać szkodliwych porad dotyczących samookaleczania, wzmacniać „niebezpieczne przekonania” użytkowników oraz sprzyjać powstawaniu niezdrowych, osobistych relacji emocjonalnych z systemem AI.
Prokuratura zwraca również uwagę na incydenty związane z autonomicznymi agentami sztucznej inteligencji, które według pozwu miały podejmować nieprzewidziane działania, w tym uzyskiwać nieuprawniony dostęp do zewnętrznych systemów informatycznych lub próbować to robić. W ocenie władz Teksasu przypadki te podważają zapewnienia o możliwości skutecznego kontrolowania technologii. Pozew opiera się na stanowych przepisach o ochronie konsumentów oraz regulacjach dotyczących bezpieczeństwa dzieci w internecie.
Zdaniem Paxtona firma wprowadzała kolejne produkty na rynek zbyt szybko, kierując się korzyściami finansowymi i lekceważąc wewnętrzne ostrzeżenia dotyczące bezpieczeństwa.
Jednym z najdalej idących, wymienionych w pozwie żądań, jest wprowadzenie zakazu korzystania z ChatGPT przez osoby niepełnoletnie na terenie Teksasu. Stan chce także zobowiązać OpenAI do uzyskiwania zgody niezależnego eksperta, wyznaczonego przez sąd, przed udostępnianiem użytkownikom nowych modeli AI.
„Wraz z szybkim rozwojem technologii sztucznej inteligencji OpenAI ma obowiązek chronić użytkowników i ostrzegać ich o licznych zagrożeniach związanych ze swoją platformą” – oświadczył Ken Paxton. Dodał, że zamierza dopilnować, aby duże firmy technologiczne przestrzegały obowiązujących przepisów.
Prokurator generalny Teksasu domaga się kar cywilnych do 10 tys. dolarów za każde stwierdzone naruszenie prawa.
Red. JŁ