W kontaktach firm technologicznych z armią potrzebna jest przejrzystość; twórcy AI nie chcą stawać przed dylematem konstruktorów bomby atomowej – powiedział PAP Krzysztof Gwardys, prezes Promity, polskiej firmy AI, nawiązując do medialnych doniesień o naciskach Pentagonu na Anthropic.

Anthropic, amerykańska firma zajmująca się tworzeniem modeli językowych z rodziny Claude, nie chce się zgodzić na wykorzystywanie przez amerykańską armię jej produktów w sposób niezgodny z zasadami bezpieczeństwa. Firma jest przeciwna stosowaniu sztucznej inteligencji do inwigilacji obywateli oraz w potencjalnie śmiercionośnych operacjach, w których AI podejmuje decyzje o namierzaniu celów bez ingerencji człowieka.

Według amerykańskiego dziennika „Wall Street Journal” firma na razie wykluczyła w sporze z Pentagonem możliwość złagodzenia swoich zabezpieczeń dotyczących sztucznej inteligencji.

Anthropic ma czas do piątkowego wieczoru (czasu europejskiego) na rozważenie ustępstw. Rzecznik firmy oświadczył w czwartek, że ta „jest nadal gotowa do kontynuowania rozmów (z Departamentem Obrony USA-red.)”.

Anthropic, pierwszy producent modeli sztucznej inteligencji wykorzystanych w tajnych operacjach Departamentu Obrony, ryzykuje w sporze utratę wartego 200 mln dolarów kontraktu z armią. Może także trafić na listę firm stwarzających tzw. ryzyko łańcucha dostaw, czyli potencjalne zagrożenie dla bezpieczeństwa narodowego USA. Zazwyczaj do takich podmiotów zalicza się firmy zagraniczne, powiązane z wrogami USA. Znalezienie się na czarnej liście Pentagonu może oznaczać dla Anthropic także problemy ze współpracą z innymi firmami.

Według Krzysztofa Gwardysa, prezesa Promity, firmy zajmującej się budową rozwiązań AI, współpraca prywatnej firmy technologicznej z wojskiem powinna przebiegać według transparentnych zasad.

– Oczywiście szczegóły kooperacji objęte są zwykle tajemnicą, niemniej gwarancje trzymania się reguł odpowiedzialnego wykorzystania sztucznej inteligencji powinny być zapewnione – ocenił w rozmowie z PAP Gwardys.

Według informacji dziennika Wall Street Journal z 15 lutego, wbrew zasadom użytkowania sztucznej inteligencji przyjętym przez Anthropic, jego aplikacja Claude miała zostać wykorzystana przez armię amerykańską w styczniowej operacji schwytania byłego prezydenta Wenezueli Nicolasa Maduro i jego żony.

W akcji brały udział m.in. bombowce, które zaatakowały wybrane cele w Caracas, stolicy Wenezueli. Tymczasem, jak podkreślił amerykański dziennik, Anthropic zabrania używania Claude’a do „ułatwiania stosowania przemocy i opracowywania broni, a także do prowadzenia inwigilacji”.

Założyciel Promity nie zdziwił się, że Anthropic nie chce zgodzić się na łamanie przyjętych wcześniej zasad użytkowania AI. Jego zdaniem nie chodzi wyłącznie o bezpieczeństwo wykorzystania nowej technologii, ale także np. o samopoczucie pracowników. Twórcy AI nie chcą jego zdaniem stawać przed „dylematem konstruktorów bomby atomowej”.

– Jak się będą czuli pracownicy firmy pracującej z wojskiem, jeśli wyjdzie na jaw, że jej modeli użyto w jakiejś ofensywnej operacji? Z doświadczenia wiem, że ludzie zajmujący się sztuczną inteligencją wolą wybrać pracę w miejscu, gdzie działa się etycznie – podkreślił Gwardys. Ekspert przypomniał także, że w firmach AI pracuje się na danych dotyczących „konkretnych osób” objętych czasem tajemnicą, dlatego pojawia się pytanie o bezpieczeństwo pracowników.

– To są często takie projekty, o których chce się jak najszybciej zapomnieć i właśnie z tego powodu potrzebne są regulacyjne zabezpieczenia, a wyznaczanie firmie nieprzekraczalnych terminów (tak jak to ma miejsce w sporze Anthropic – Pentagon – PAP) nie sprzyja rozwiązaniu tej sytuacji – ocenił.

Z kolei szef Nvidii, amerykańskiego giganta technologicznego produkującego procesory graficzne, Jensen Huang, bagatelizuje znaczenie sporu między Pentagonem i Anthropic, podkreślając, że nie jest to „koniec świata” i obie strony wykazują „racjonalne podejście”. W rozmowie ze stacją telewizyjną CNBC Huang stwierdził, że Departament Obrony ma prawo wykorzystywać technologię i produkty, które nabywa, w sposób, który służy jego interesom, podobnie jak Anthropic ma prawo decydować, do jakich celów mogą być wykorzystywane jego produkty.

Według amerykańskich mediów wykorzystywanie aplikacji sztucznej inteligencji zyskuje w Pentagonie popularność. Narzędzi tych można używać do różnych celów: od analizowania dokumentów po sterowanie autonomicznymi dronami. Amerykańskie wojsko wykorzystuje np. obecnie specjalną wersję ChatGPT, z której korzysta już 3 mln osób.

Gwardys przyznał, że współpraca z wojskiem oznacza dla firm technologicznych „rozwój i pieniądze”, jednakże z perspektywy spółki i jej akcjonariuszy ważna jest także reputacja.

Przypomniał, że w przeszłości w USA funkcjonował na giełdzie indeks „grzechu” (ang. sin stock index) skupiający firmy działające np. na rynku hazardu, alkoholi, czy broni, które pomimo wątpliwości etycznych generowały duże wzrosty. – Ale dziś, kiedy tyle mówi się o moralności i ekologii, nikt nie chce mieć wizerunku „brudnej” firmy – przyznał.

Jak zauważył z kolei w rozmowie z PAP dr Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK, „powszechnym problemem” twórców technologii sztucznej inteligencji, którym zależy na bezpieczeństwie jej wdrażania, jest także ryzyko wykorzystania ich modeli przez terrorystów.

– W mojej opinii, w środowisku rozwijającym metody AI dyskusja toczy się nie tyle na temat wykorzystania sztucznej inteligencji przez państwa, które robią to w przynajmniej częściowo kontrolowany sposób, ale wokół ryzyka związanego z jej niekontrolowanym użyciem np. przez organizacje terrorystyczne – podkreślił Łukasik i wyjaśnił, że terroryści mogą skorzystać z modeli AI np. do produkcji broni biologicznej albo planowania swoich operacji.

Jego zdaniem twórcy modeli AI są jednak świadomi zagrożeń i dlatego „ściśle współpracują” ze społecznością badawczą w kwestiach bezpieczeństwa sztucznej inteligencji. Widać to jego zdaniem szczególnie w USA, gdzie amerykańskie Big Techy, np. OpenAI czy Anthropic od samego początku są otwarte na badania bezpieczeństwa wykorzystania nowych technologii.

Łukasik przypomniał, że w wielu krajach powstały rządowe instytuty bezpieczeństwa sztucznej inteligencji, które wspólnie z Big Techami publikują raporty dotyczące bezpieczeństwa modeli. To rządowe organizacje, które działają m.in. w USA (Center for AI Standards and Innovation) i w Wielkiej Brytanii (AI Security Institute). W Polsce tę rolę pełni Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK (Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy).

Mimo to np. możliwość prowadzenia masowej inwigilacji za pomocą narzędzi sztucznej inteligencji budzi społeczny niepokój. Według Gwardysa pojawiające się coraz częściej obawy są „wprost proporcjonalne” do zaufania do państwa.

– Wyposażamy dziś nasze państwa, nasze służby w bardzo mocne narzędzia, jesteśmy poddawani scoringowi i inwigilacji. Oddajemy im naszą wolność, nasze wszystkie dane, za bezpieczeństwo. Tylko czy państwa, demokracje, w których żyjemy, nie są czasem coraz bardziej totalitarne? – zastanawiał się Gwardys i podkreślił, że społeczeństwo nie będzie się musiało obawiać ryzyka związanego z AI, jeśli państwa „będą z tych narzędzi korzystać w sposób kontrolowany i stabilny”.

Dlatego jego zdaniem warto wzmocnić mechanizmy kontrolne nad służbami i nad wojskiem wykorzystującymi sztuczną inteligencję. Należy to jednak zrobić w taki sposób, aby nie osłabić skuteczności systemu, który ma nas bronić przed zagrożeniami zewnętrznymi, „bo trwa już przecież wojna na AI” z państwami, które nie mają skrupułów.

Anna Gwozdowska (PAP)