Władze Chicago zostały powiadomione przez OpenAI, twórcę ChatGPT, że technologia firmy uzyskała dostęp do informacji znajdujących się w publicznie dostępnej miejskiej bazie danych. Miasto podkreśla, że na tym etapie nie ma informacji o ujawnieniu poufnych danych ani o nieautoryzowanym wykorzystaniu miejskich systemów.
Dostęp dotyczył publicznych danych miasta
Biuro burmistrza Brandona Johnsona potwierdziło, że OpenAI skontaktowało się z miastem w sprawie aktywności swojej technologii. Chodziło o informacje dostępne za pośrednictwem publicznego miejskiego portalu danych.
Chicago publikuje w internecie szeroki zakres informacji, między innymi dane dotyczące sprzątania ulic, miejskich projektów i programów finansowych. Rzeczniczka burmistrza Allison Novelo podkreśliła, że miasto nie ma obecnie wiedzy o uzyskaniu przez OpenAI wrażliwych informacji ani o nieautoryzowanym wykorzystaniu systemów miejskich.
OpenAI prowadzi obecnie szerszy przegląd aktywności swoich modeli podczas ich trenowania i testowania. Firma poinformowała wcześniej, że w związku z tym przeglądem powiadomiła wiele organizacji, których systemy zostały objęte analizą. Jednocześnie zaznaczyła, że samo powiadomienie nie musi oznaczać poważnego incydentu bezpieczeństwa.
Coraz więcej pytań o bezpieczeństwo sztucznej inteligencji
Sprawa Chicago pojawia się w czasie rosnącej debaty na temat sposobu działania zaawansowanych systemów sztucznej inteligencji. W ostatnich dniach informowano również o przypadkach, w których modele AI uzyskiwały dostęp do publicznie dostępnych stron amerykańskich instytucji rządowych, między innymi Census Bureau i Securities and Exchange Commission. OpenAI poinformowało, że analizuje te przypadki.
Eksperci zwracają uwagę, że znaczna część informacji o funkcjonowaniu miast jest dziś celowo publikowana w internecie. Sam fakt automatycznego uzyskania dostępu do takich danych nie oznacza więc, że doszło do kradzieży informacji poufnych.
Burmistrz Johnson powiedział, że miejskie przygotowania do zagrożeń związanych z cyberbezpieczeństwem mają pomóc w ochronie danych mieszkańców.
W Chicago trwa jednocześnie szersza debata dotycząca rozwoju sztucznej inteligencji i infrastruktury potrzebnej do jej obsługi. We wrześniu Johnson zaproponował między innymi roczne wstrzymanie wydawania nowych zezwoleń na budowę lub rozbudowę centrów danych, aby miasto mogło przygotować nowe regulacje dotyczące ich funkcjonowania.
