Gdy tylko ChatGPT został dopuszczony do powszechnego użytku, hakerzy zaczęli szukać luk w oprogramowaniu sztucznej inteligencji od Open AI, próbują sprawić, aby chat zrobił coś niestosownego. Teraz twórcy ChatGPT wraz z innymi dostawcami sztucznej inteligencji chcą, aby pozwolić tysiącom hakerów na testowanie nowej technologii.
OpenAI, Microsoft, Google oraz inni dostawcy AI koordynują swoje działania z administracja prezydenta Bidena, aby zorganizować olbrzymi hackathon, który umożliwi tysiącom hakerów przetestowanie ograniczeń sztucznej inteligencji.
Specjaliści sprawdzą m.in.: jak można manipulować chatbotem w celu wyrządzenia komuś krzywdy; czy chatbot podzieli się z osobą trzecią informacjami, przekazanymi poufnie przez innego użytkownika oraz dlaczego uważa, że pielęgniarka to kobieta, a lekarz to mężczyzna – pisze Associated Press.
„Właśnie dlatego potrzebujemy tysięcy ludzi” – powiedział Rumman Chowdhury, główny koordynator masowego wydarzenia hakerskiego, zaplanowanego na tegoroczny letni konwent hakerów – DEF CON w Las Vegas – który ma przyciągnąć kilka tysięcy osób.
Każdy, kto korzystał z narzędzia Open AI ChatGPT, Bing chatbota Microsoftu lub Barda od Google’a, szybko przekonał się, że mają one tendencję do fabrykowania informacji i przedstawiania ich jako faktów. Systemy te, zbudowane na tak zwanych dużych modelach językowych, emulują również kulturowe uprzedzenia, których nauczyły się podczas szkolenia na ogromnych zbiorach danych, znalezionych w sieci.
Red. JŁ