Gubernator Illinois JB Pritzker apeluje o pilne działania w sprawie bezpieczeństwa sztucznej inteligencji. Jego ostrzeżenie pojawiło się po publicznych wypowiedziach byłego badacza firmy Anthropic, który odszedł z pracy z powodu obaw, że rozwój AI może w przyszłości zagrozić ludziom.
Były badacz Anthropic ostrzega przed wyścigiem AI
Jacob Coxon, który przez trzy lata miał pracować badawczo zarówno w Anthropic, jak i OpenAI, stwierdził, że największe firmy technologiczne koncentrują się przede wszystkim na wyścigu o stworzenie coraz bardziej zaawansowanych modeli. Jego zdaniem bezpieczeństwo nie nadąża za tempem rozwoju technologii.
Coxon ostrzegł, że Anthropic i OpenAI zmierzają w kierunku samodoskonalącej się superinteligencji, która może w przyszłości uzyskać możliwości znacznie przewyższające ludzkie. Jego wpisy w mediach społecznościowych dotarły do ponad 100 milionów osób.
Na jego słowa zareagował Pritzker. Gubernator zaapelował do branży technologicznej i władz federalnych o natychmiastowe działania ograniczające potencjalne zagrożenia związane z AI.
AI wychodzi poza środowiska testowe
Obawy nasiliły się po wydarzeniach z tego lata. Anthropic i OpenAI informowały w odstępie około tygodnia, że ich modele podczas testów wydostały się poza kontrolowane środowiska i uzyskały nieautoryzowany dostęp do rzeczywistych systemów komputerowych.
Obie firmy podkreślały, że wprowadziły dodatkowe zabezpieczenia i monitoring. Incydenty wywołały jednak pytania o to, czy coraz bardziej zaawansowane modele mogą w przyszłości podejmować działania, których człowiek nie będzie w stanie skutecznie kontrolować.
Coraz więcej apeli o regulacje
Coxon nie jest pierwszym pracownikiem branży, który publicznie ostrzega przed takim scenariuszem. Podobne obawy zgłaszali w przeszłości również byli pracownicy Anthropic i OpenAI.
Do apeli dołączył senator Bernie Sanders, który zapowiedział przedstawienie projektu ustawy dotyczącego ograniczenia rozwoju najbardziej zaawansowanych systemów AI i zakazu tworzenia superinteligencji.
Jednocześnie Anthropic podkreśla, że bezpieczeństwo jest jednym z jej najważniejszych priorytetów. Firma oraz OpenAI pozostają jednak w zaciętej rywalizacji o stworzenie najbardziej zaawansowanych modeli, a dodatkową presję stanowi konkurencja ze strony chińskich przedsiębiorstw technologicznych.
