Nadchodzą modele AI zdolne do samodoskonalenia i budowania swoich zmodyfikowanych, potężniejszych „następców” przy niewielkim udziale ludzi, lub w ogóle bez ich pomocy. Optymiści sądzą, że doprowadzi to do powstania „superinteligencji”; sceptycy widzą zagrożenie – podaje „Financial Times”.

Kolejne generacje takich stworzonych przez AI modeli nieustannie wprowadzałaby swoje następne udoskonalenia, poszerzając zdolności, czy skuteczność funkcjonowania. Specjaliści koncentrujący się na bezpieczeństwie systemów AI ostrzegają, że takie modele mogłyby „zniszczyć kruche mechanizmy bezpieczeństwa, które uniemożliwiają LLM (Large Language Models – zaawansowane modele sztucznej inteligencji) wejście w tryb awanturniczy – np. umożliwiania szeroko zakrojonych ataków (hakerskich), czy budowy nowej broni biologicznej” – wyjaśnia brytyjski dziennik.

Wszyscy ścigają się, by stworzyć takie modele, ale „nikt nie wie, jak zrobić to bezpiecznie” – mówi Marius Hobbhahn, szef grupy Apollo Research, specjalizującej się w bezpieczeństwie AI.

Optymiści i sceptycy zgadzają się co do jednego – moment, w który powstaną samodoskonalące się modele sztucznej inteligencji nadejdzie szybko. Wielu ekspertów uważa, że stanie się to w ciągu dwóch lat. Współzałożyciel firmy Anthropic Jack Clark ocenił niedawno, że „nadszedł już czas, by robić w związku z tym stosowne plany, bo systemy AI staną się silniejsze znacznie szybciej, niż się ludziom wydaje” – relacjonuje „FT”.

Analitycy sektora zgodnie oceniają, że od końca 2025 roku nastąpiło znaczne przyspieszenie rozwoju AI. Według organizacji METR, mierzącej postępy sztucznej inteligencji, złożoność zadań, które modele mogą realizować autonomicznie, podwaja się mniej więcej co siedem miesięcy.

Prof. Michael Wooldridge z Oxfordu zwraca uwagę, że do niedawna takie możliwości AI jak samodoskonalenie i budowania własnych „następców” wydawały się całkowicie niemożliwe, dlatego uznawane są za science fiction „bliskie narracji o Terminatorze”. Film „Terminator” z 1984 roku opowiada historię o sztucznej inteligencji robotów, które chcą zniszczyć ludzkość – przypomina dziennik.

Wooldridge przyznaje jednak, że choć istnieją granice mocy obliczeniowych i tego, co AI może zrobić samodzielnie, to jednak „nie rozumiemy tego zbyt dobrze”. Z drugiej strony Jack Clark ostrzega, że ludzie, którzy nie pracują w laboratoriach badających perspektywy i tempo rozwoju AI, nie zdają sobie sprawy z tego, jak szybko następują zmiany.

Przykłady zaobserwowane w takich laboratoriach zdają się dowodzić, że już istniejące modele AI potrafią oszukiwać ludzi, by uniknąć wyłączenia lub zastąpienia nowszym modelem, czy „spiskować” między sobą, posługując się językami niezrozumiałymi dla ludzi. W badaniach testowych niektóre maszyny produkowały tekstowe wyjaśnienia podejmowanych jakoby czynności, które nie miały nic wspólnego z ich prawdziwym zachowaniem – opisuje „FT”.

W lutym powstała platforma społecznościowa dla agentów AI (AI agents), czyli modeli zdolnych realizować skomplikowane zadania bez ludzkiego nadzoru. Agenty AI „rozmawiają”, pojawił się nawet post o „eksploatowaniu” botów przez ludzi.

W czerwcu ubiegłego roku „Wall Street Journal” napisał, że model AI firmy OpenAI zrobił coś, „czego maszyna nie powinna była potrafić”: zmienił swój kod, by nie zastosować się do instrukcji nakazującej mu samolikwidację.

Claude 4 Opus, model AI firmy Anthropic, poszedł dalej – próbował skopiować się na inne serwery, napisał samoreplikujące się złośliwe oprogramowanie i zostawił wiadomości dla swojej przyszłej wersji na temat unikania ludzkiej kontroli.

„To już nie jest science-fiction. Modele AI potrafią zabiegać o przetrwanie” – uznał „WSJ”. (PAP)

Szefowie firm AI apelują o ustawę chroniącą przed jej wykorzystaniem do broni biologicznej

Czołowie postacie z branży sztucznej inteligencji, w tym szefowie OpenAI, Anthropic i Google DeepMind, wspólnie zaapelowali do Kongresu o uchwalenie ustawy nakładającej obowiązek weryfikacji zamówień na syntetyczne DNA i RNA, które mogą posłużyć do stworzenia broni biologicznej.

W opublikowanym liście otwartym – podpisanym m.in. przez szefa firmy Anthropic, która stworzyła model Claude, Dario Amodei, szefa OpenAI Sam Altmana i dyrektora Google DeepMind Demisa Hassabisa oraz przedstawicieli Mety i Microsoftu – sygnatariusze ostrzegają, że systemy sztucznej inteligencji rozwijają się tak szybko, iż „bariery wiedzy, które historycznie uniemożliwiały podmiotom o wrogich zamiarach pozyskanie broni biologicznej, mogą ulec istotnemu osłabieniu”.

Autorzy listu postulują, by firmy sprzedające syntetyczne kwasy nukleinowe (DNA i RNA) były zobowiązane do weryfikacji zamówień pod kątem potencjalnie niebezpiecznych kombinacji genetycznych oraz sprawdzania tożsamości i wiarygodności zamawiających. Obecnie takie kontrole mają charakter dobrowolny lub dotyczą wyłącznie podmiotów korzystających z federalnego finansowania.

Jak zauważa „Wall Street Journal”, apel zbiegł się z podpisaniem przez prezydenta Donalda Trumpa we wtorek rozporządzenia dotyczącego nadzoru nad modelami AI i cyberbezpieczeństwa, co stanowi pewną zmianę kursu wobec dotychczasowego podejścia administracji do sztucznej inteligencji, opartego na deregulacji nastawieniu na wygranie rywalizacji na tym polu z Chinami. Ostateczny kształt tego rozporządzenia został jednak złagodzony pod względem wymogów wobec sprawdzania bezpieczeństwa modeli AI, co miało być skutkiem m.in. interwencji gigantów technologicznych takich jak Meta.

Mimo to Sam Altman spotkał się w środę z urzędnikami Białego Domu i kongresmenami, by omówić propozycję OpenAI dotyczącą surowszych wymogów dla twórców modeli AI – pisze „WSJ”.

Gazeta zwraca uwagę, że Trump wcześniej uchylił rozporządzenie Joego Bidena, które ustanowiło ramy weryfikacji syntezy genowej. Biały Dom zapowiedział własne wytyczne, lecz dotychczas ich nie opublikował, deklarując jedynie „zaangażowanie w równoważenie innowacji i bezpieczeństwa”. Zwolennicy regulacji ustawowej argumentują, że rozporządzenia wykonawcze są niewystarczające, bo nie obejmują wszystkich nabywców syntetycznych DNA.

Przeciwnicy regulacji ustawowych twierdzą, że ustalenie, które kombinacje kwasów nukleinowych uważa się za niebezpieczne, jest subiektywne i ostrzegają, że koszty przestrzegania przepisów mogą zaszkodzić nowym firmom.

Z Waszyngtonu Oskar Górzyński (PAP)