Generatywna sztuczna inteligencja zużywa więcej energii na teksty w językach innych niż angielski – ogłoszono na konferencji „Empirical  Methods in Natural Language Processing” w Budapeszcie.

Według naukowców z University of Michigan Engineering, generatywna sztuczna inteligencja przetwarzając i tworząc teksty w językach innych niż angielski zużywa więcej energii (od 1,4 do nawet 180 razy więcej) i czasami udziela mniej trafnych odpowiedzi, co potencjalnie pogłębia istniejące globalne nierówności.

Wyższe koszty energii zwiększają barierę w korzystaniu ze sztucznej inteligencji dla miliardów ludzi na całym świecie – muszą oni albo płacić więcej, albo przejść na język inny niż ojczysty.

Dysproporcja w zużyciu energii jest największa w przypadku języków, które nie używają alfabetu łacińskiego i mają mniej treści cyfrowych dostępnych do nauki. Większość języków zachodnioeuropejskich zużywa około dwukrotnie więcej energii. Jednak języki hindi i bengalski, którymi posługują się setki milionów ludzi, wymagają odpowiednio 7,9 i 15,3 razy więcej energii niż równoważny komunikat w języku angielskim.

„Języki, które zazwyczaj zużywają więcej energii, mają również zazwyczaj niższą dokładność wyników modelu” – powiedział Naihao Deng, doktorant informatyki i inżynierii z Laboratorium Sztucznej Inteligencji Uniwersytetu Michigan i pierwszy autor badania.

Jak uznał badacz, większość ludzi będzie chciała korzystać z modeli sztucznej inteligencji, zadając pytania w swoich językach ojczystych i może czuć się do tego zmuszona. Dodał przy tym, że „podwójna kara” (wyższych kosztów i gorszych wyników) zwiększa jednak prawdopodobieństwo, że niektóre grupy osób mogą zostać wykluczone z dostępu do AI ze względu na zbyt wysokie koszty, a firmy mogą niechętnie udostępniać swoje modele w określonych językach.

Obecnie około 5,2 miliarda ludzi musi zużywać ponad dwukrotnie więcej energii na generowanie tekstu w swoim ojczystym języku w porównaniu z osobami anglojęzycznymi, zgodnie z pomiarami przeprowadzonymi przez naukowców i danymi demograficznymi dostępnymi w bazie lingwistycznej Ethnologue.

Naukowcy odkryli dysproporcję w zużyciu energii i dokładności, mierząc ilość energii zużywanej przez trzy modele sztucznej inteligencji typu open source: Qwen 3 firmy Alibaba, Gemma 3 firmy Google i Llama 3.1 firmy Meta. Poprosili każdy model o udzielenie odpowiedzi na pytania wielokrotnego wyboru zawarte w Belebele, zbiorze danych służącym do oceny rozumienia tekstu czytanego przez modele sztucznej inteligencji w 122 różnych językach. Następnie zmierzyli ilość energii zużytej na udzielenie odpowiedzi na każde pytanie, korzystając z frameworka ML.Energy, opracowanego w Michigan Engineering.

Aby sprawdzić dysproporcje w innych typach zadań, naukowcy poprosili również modele o udzielenie odpowiedzi na zbiór zadań tekstowych z matematyki ze szkoły podstawowej i pytań otwartych dla użytkowników zawartych w innych zbiorach danych testowych. Ponieważ te zbiory danych nie są wielojęzyczne, naukowcy przetłumaczyli pytania z języka angielskiego na siedem innych języków za pomocą narzędzia do tłumaczenia No Language Left Behind firmy Meta.

Wszystkie modele zużywały średnio mniej energii w przypadku tekstów w języku angielskim. Różnica w zużyciu energii utrzymywała się przy większych rozmiarach modeli i różnych typach procesorów komputerowych.

Podczas pracy w innych językach modele zużywały więcej energii, ponieważ musiały generować więcej tokenów – podstawowych jednostek danych wykorzystywanych przez sztuczną inteligencję. Tokeny mogą reprezentować całe frazy i słowa lub pojedyncze sylaby i znaki. Modele sztucznej inteligencji konwertują komunikaty na tokeny przed ich przetworzeniem, a następnie konwertują tokeny wyjściowe na język ludzki w celu uzyskania ostatecznej odpowiedzi.

Problem ten nasila się w przypadku skryptów, których znaki wymagają więcej kodu do wyświetlenia. Na przykład pismo dewanagari używane w językach hindi, nepalskim i marathi oraz pismo bengalskie mają znaki podstawowe, które zmieniają formę i łączą się z akcentami, tworząc nawet miliony unikalnych znaków.

Większa liczba tokenów zajmuje więcej pamięci komputera i zużywa więcej energii. Przy większej ilości pamięci zużywanej przez tokeny, model ma mniej dostępnej przestrzeni do przetwarzania informacji. Dlatego przetwarza tokeny w mniejszych partiach, co zużywa więcej energii na każdy token.

Więcej tokenów może również skutkować wyższymi kosztami bezpośrednimi, ponieważ firmy często wyceniają dostęp do modelu na podstawie liczby wygenerowanych tokenów.

Aby zniwelować dysproporcję kosztów, badacze zalecają firmom optymalizację usług pod kątem większej liczby języków. Mogłoby to oznaczać kierowanie zapytań użytkowników do modeli dostosowanych do konkretnych języków. Firmy mogłyby również tłumaczyć komunikaty użytkowników na język angielski przed przekazaniem ich do bardziej uogólnionego modelu, pod warunkiem że tłumaczenie będzie wiarygodne.

„Twórcy sztucznej inteligencji powinni tworzyć więcej zasobów dla języków, w których występują dysproporcje w kosztach i zużyciu energii” – powiedziała prof. Rada Mihalcea, dyrektorka Laboratorium Sztucznej Inteligencji Uniwersytetu Michigan (U-M AI Lab) i autorka korespondencyjna badania. Uznała, że do poprawy efektywności mógłby przyczynić się „crowdsourcing native speakerów – do pomocy w tłumaczeniu materiałów lub tworzenia zasobów w celu uzyskania wystarczającej ilości danych szkoleniowych”.

Crowdsourcing to metoda polegająca na zlecaniu przez firmę, instytucję lub organizację określonych zadań, pomysłów czy usług szerokiej, niezidentyfikowanej grupie ludzi (zazwyczaj za pośrednictwem internetu), zamiast tylko własnym pracownikom.

Paweł Wernicki (PAP)

pmw/ bar/