Trzeba wstrzymać prace nad najbardziej zaawansowanymi modelami sztucznej inteligencji – zaapelował we wtorek „Financial Times”. Brytyjski dziennik ostrzegł, że niektóre modele AI zaczynają się wymykać spod kontroli człowieka.

Gazeta ocenia, że apele o ostrożność ze strony „gigantów branży” – Sama Altmana z OpenAI, Elona Muska z xAI oraz Dario Amodeia z Anthropic – powinny być punktem zwrotnym dla branży.

„Nawet jeśli odłożymy na bok ostrzeżenia osób z branży, według których AI »może zabić nas wszystkich do końca dekady«, niektóre modele wyraźnie zaczynają wymykać się spod kontroli” – napisał „FT” w komentarzu redakcyjnym.

Gazeta zwraca np. uwagę na wyścig firm próbujących stworzyć model samodoskonalenia sztucznej inteligencji, czyli wykorzystywania AI do budowania jeszcze bardziej zaawansowanych systemów. Zdaniem gazety Amodei ma rację ostrzegając, że może to sprawić, iż ludzkość przestanie rozumieć i kontrolować powstające w ten sposób systemy.

„Bardziej odpowiedzialna administracja USA niż ta kierowana przez (Donalda) Trumpa wykorzystywałaby już istniejące przepisy do wzmacniania zabezpieczeń” – pisze „FT”, dodając, że ewentualne zwycięstwo Demokratów w listopadowych wyborach do Kongresu mogłoby ułatwić stworzenie niezbędnych ram prawnych, np. wprowadzenie odpowiedzialności karnej szefów firm technologicznych za szkody spowodowane przez ich modele.

Gazeta przypomina słowa Trumpa, który w Dublinie sprzeciwił się podobnym wezwaniom, podkreślając, że USA muszą w tym wyścigu technologicznym pokonać Chiny.

Dziennik przyznaje, że „amerykańska pauza” w rozwoju AI mogłaby pozwolić Chinom nadrobić straty w wyścigu technologicznym, bo Pekin postrzega sztuczną inteligencję jako kluczowe narzędzie modernizacji gospodarczej i wojskowej. Gazeta ocenia jednak, że obecnie chińskie firmy są na tyle uzależnione od amerykańskich badań, że i postępy ChRL uległyby pewnemu spowolnieniu, a w ostatecznym rozrachunku „eskalacja w sferze AI” nie leży w interesie Pekinu.

Z Londynu Adam Dąbrowski (PAP)

Eksperci: Trump nie chce ograniczania rozwoju AI, bo jego rodzina zainwestowała w ten sektor

Prezydent USA Donald Trump nie chce ograniczania rozwoju sztucznej inteligencji, bo jego rodzina zainwestowała w ten sektor – stwierdził we wtorek były doradca ekonomiczny administracji Baracka Obamy prof. Robert Reich. Noblista Paul Krugman dodaje, że Trump broni AI, bo jego polityka nie przyniosła żadnych innych sukcesów gospodarczych.

Reich, minister pracy w administracji prezydenta Billa Clintona, podkreśla, że gwałtowna i granicząca z „atakiem furii” obrona rozwoju AI, z jaką wystąpił Trump, powinna tym bardziej dziwić przed wyborami środka kadencji, bowiem sondaże wskazują na rosnącą niechęć wyborców do sztucznej inteligencji, również wśród Republikanów.

W poniedziałek Trump zareagował serią wpisów na swym portalu Truth Social na apele szefów firm tego sektora, którzy domagają się kontrolowanego spowolnienia rozwoju AI i poddania jej rządowym regulacjom. „Jedyną kontrolą lub »barierami ochronnymi«, których potrzebuje AI, jest SILNY I INTELIGENTNY (o wysokim IQ!) PREZYDENT, a USA mają tego pod dostatkiem!” – napisał.

Ocenił, że istnieje „chory spisek” przeciwko rozwojowi technologii i budowie centrów danych i dodał, że jego wpis to ostrzeżenie dla „konspiracjonistów, zdrajców i autorów przecieków”.

„Dlaczego Trump jest tak przeciwny regulowaniu AI? (…) Nie może chodzić o Chiny (…). Nawet Chiny rozważają wdrożenie zabezpieczeń wobec ich (sektora) AI” – zwraca uwagę Reich.

Wyjaśnia, że dzieje się tak, ponieważ Trump i jego rodzina mają finansowe udziały w tym rynku. Donald Trump junior i jego brat Eric zainwestowali duże środki w firmę American Data Centers, zajmującą się rozwojem mocy obliczeniowych i infrastruktury dla AI.

Nie bez znaczenia jest to, że przed inwestycjami synów Trump zapowiedział przeznaczenie 40 mld dol. na wsparcie budowy centrów danych w USA, kolejne 500 mld dol. inwestycji w infrastrukturę AI i wydał rozporządzenie wykonawcze wycofujące przepisy wdrożone przez administrację prezydenta Joe Bidena, która miała bardziej ostrożne podejście do sztucznej inteligencji – wylicza Reich.

Dodaje, że 1789 Capital, firma Donalda juniora, zaliczyła od tego czasu skokowy rozwój środków, jakimi zarządza – od kilkuset milionów dolarów do ponad 3 miliardów.

Jednym z pierwszych zadań Kongresu w styczniu, w nowym składzie, powinno być ustanowienie regulacji sektora AI, „przy założeniu, że Trump nie będzie już kontrolował tego, co robi Kongres, i że w styczniu nie będzie za późno” – konkluduje prof. Reich.

Krugman, laureat ekonomicznego Nobla, podziela jego opinię, ale dodaje też, że „należy zdać sobie sprawę z tego, jak bardzo Trump potrzebuje boomu w sektorze AI”.

Noblista od roku ostrzega, że to właśnie ten boom maskuje fatalne gospodarcze skutki polityki prezydenta i był powodem, dla którego mimo wojny handlowej nie doszło do tąpnięcia na giełdach.

Trump broni zatem sektora sztucznej inteligencji jak może, ponieważ to entuzjazm, jaki budzą na rynkach firmy AI, generował ogromne inwestycje i wspierał wysokie notowania akcji na giełdach. Minister finansów Scott Bessent twierdzi wręcz, że AI „rozwiąże wszystkie problemy” włącznie z tworzeniem miejsc pracy, zlikwidowaniem inflacji, ograniczeniem drożyzny i deficytu budżetowego – zauważa noblista.

Gwałtowny opór przed dalszym, niekontrolowanym rozwojem AI „odbiera trumpistom jedyne, co wydawało się działać na ich korzyść” – podsumowuje Krugman.(PAP)

Firmy OpenAI, Anthropic i Google podjęły współpracę w obszarze bezpieczeństwa AI

Rywalizujące ze sobą w sektorze sztucznej inteligencji firmy OpenAI, Anthropic i Google podjęły współpracę w kwestii bezpieczeństwa AI – poinformował we wtorek szef OpenAI ds. globalnej polityki Chris Lehane, który udał się do Waszyngtonu, by podjąć z kongresmenami rozmowy w tej sprawie.

Lehane oświadczył, że OpenAI, Anthropic i Google prowadziły od kilku tygodni rozmowy na temat podjęcia współpracy. „Lepiej jest próbować pracować razem, tak aby priorytetem stało się bezpieczeństwo” – dodał.

Reuters zastrzega, że żadna z tych trzech firm nie zareagowała na prośby o skomentowanie tematu.

Według AFP OpenAI, Anthropic i Google zabiegają o utworzenie organu, który nadzorowałby zagrożenia, jakie może stworzyć sektor AI. Agencja zwraca jednak uwagę, że mniejsze firmy z sektora sztucznej inteligencji, w tym francuski Mistral, zarzucają amerykańskim gigantom, że chcą teraz zamrozić tempo rozwoju sztucznej inteligencji, by scementować swoją pozycję globalnych championów tej technologii.

Również brytyjski „Telegraph” napisał w niedzielę, że Anthropic, który przygotowuje się do rychłego wejścia na giełdę, a zarazem ma pozycję „lidera w wyścigu AI”, może skłaniać się ku planom zamrożenia rozwoju modeli sztucznej inteligencji, by tę pozycję utrzymać.

Dario Amodei, szef firmy Anthropic, napisał w sobotę, że być może tylko sześć miesięcy dzieli nas od przełomu, po którym ludzie mogą całkiem stracić kontrolę nad AI. Nie jest to zresztą pierwsze ostrzeżenia na ten temat, jakie publicznie sformułował Amodei – przypominał „Telegraph”.

W sobotę szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel Amodeiego.

AFP podaje we wtorek, że do głosów na rzecz spowolnienia rozwoju AI dołączył matematyk Bilal Chughtai, były badacz z firmy Google DeepMind, który odpowiadał za szkolenie modeli pod kątem bezpieczeństwa i zgodności z instrukcjami i wartościami ludzi.

„Wierzę szczerze, że w AI ma potencjał, by nas wszystkich zabić, i że być może jest za późno, by tego uniknąć” – oświadczył Chughtai. Kilka dni wcześniej o odejściu z Anthropica poinformował publicznie Jacob Coxon, który zajmował się szkoleniem modeli AI. Zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.

Stephen Witt, znawca AI i autor nagrodzonej przez „Financial Times” książki „Myśląca maszyna”, napisał w piątkowym wydaniu dziennika „New York Times”, że rozwój AI trzeba regulować na szczeblu międzynarodowym, jak wzbogacanie uranu.

Roje modeli AI są w stanie wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować ataki na komputery. Sztuczna inteligencja buntuje się – ostrzegł Witt. (PAP)