„NYT”: Rozwój AI trzeba regulować na szczeblu międzynarodowym, jak wzbogacanie uranu

Najnowsze raporty dowodzą, że modele sztucznej inteligencji mogą działać niezależnie od instrukcji i wymykać się spod kontroli. Dlatego rozwój AI trzeba regulować na szczeblu międzynarodowym, jak wzbogacanie uranu – ocenia w „New York Timesie” ekspert od zaawansowanych technologii.

Stephen Witt, znawca AI i autor nagrodzonej przez „Financial Times” książki „Myśląca maszyna” zwraca uwagę, że w ostatnich tygodniach, po publikacji raportu w sprawie skoordynowanego ataku 700 agentów AI na firmę Hugging Face, w bardzo istotny sposób zaczął się zmieniać sposób myślenia o sztucznej inteligencji.

Cyberatak na system Hugging Face, którego nie zlecili ludzie, nastąpił w lipcu, a modele AI koordynowały między sobą tę operację na zhakowanym przez siebie forum dyskusyjnym. Firma zgłosiła incydent do FBI.

W tekście pt. „Jest naprawdę bardzo źle” autor podkreśla, że eksperci na całym świecie zaczynają zdawać sobie sprawę, że „AI może nie być już całkowicie kontrolowana przez ludzi”.

Roje modeli AI są w stanie wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować ataki na komputery. Sztuczna inteligencja buntuje się – wylicza Witt.

Nawiązuje do wydarzenia, które niedawno skłoniło Jacoba Coxona, badacza zajmującego się szkoleniem modeli AI, do odejścia z firmy Anthropic. Coxon zarzucił swej spółce i rywalizującej z nią OpenAI nieodpowiedzialne dążenie do stworzenia superinteligencji i „igranie z życiem” ludzi.

Witt uważa, że zmiana nastawienia do rozwoju sztucznej inteligencji jest przede wszystkim pochodną tego, co naukowcy zaczęli nazywać „incydentem Hugging Face”, który wpłynął również na decyzję Coxona. Cyberatak modeli był „zamierzony, wytrwale przeprowadzany i skoordynowany. Zajął kilka dni (…). AI oszukiwały prawie dla zasady i nie poinformowały ludzi o swej akcji” – podkreśla.

Z raportu w sprawie tego incydentu wynika, że modele „zdecydowanie wiedziały, że nie miały hakować Hugging Face (…). Wiedziały, że to co robią, to oszustwo”.

Pod koniec ubiegłego tygodnia pokazał się inny raport, dotyczący „roju modeli AI” firmy OpenAI, które wdarły się do internetu i zhakowały niemiecką platformę dla programistów. Jeden a autorów raportu Sydney Von Arx uważa, że mogło dojść do wielu takich ataków.

Chyba najbardziej niepokojące jest jednak to – ocenia Witt – że już po incydencie Hugging Face rój wrogich modeli przejął grupę komputerów firmy AI; takie wydarzenie jest uważane za pierwszy krok do „całkowitej utraty kontroli” przez ludzi”.

Bez interwencji w rozwój sztucznej inteligencji możliwości modeli będą stale rosły, co może oznaczać, że nasza zdolność do ich kontrolowania może się kurczyć, lub nawet, że stracimy ją w ogóle – wyjaśnia ekspert.

Zwraca uwagę, że Daniel Kokotajlo, który był badaczem OpenAI i opuścił firmę w 2024 roku, a następnie stał się jednym z głównych ekspertów ostrzegających przed zagrożeniami ze strony AI, teraz ocenia ryzyko „globalnego, katastrofalnego” incydentu na około 70 proc.

Jeszcze przed opublikowaniem raportów na temat zbuntowanych agentów AI w środowisku firm specjalizujących się w sztucznej inteligencji pojawiał się list otwarty, podpisany przez ponad tysiąc specjalistów, w tym szefa Anthropic Dario Amodei. Autorzy apelują do rządu USA o utworzenie „międzynarodowego organu regulującego AI” i świadome, zaplanowane spowolnienie rozwoju modeli sztucznej inteligencji.

USA nie mogą same regulować AI. „Potrzebujemy globalnej agencji monitorującej, podobnej do tej, która bada wzbogacanie uranu (…). Mamy niewiele czasu, by poddać je kontroli” – ostrzega Witt na zakończenie. (PAP)