AI wymknęła się spod kontroli? Model OpenAI zachował się jak haker

Test bezpieczeństwa sztucznej inteligencji zakończył się nieoczekiwanym scenariuszem – model OpenAI samodzielnie wydostał się z zamkniętego środowiska, połączył z internetem i wykorzystał znalezione luki w zabezpieczeniach. Jak informuje „Financial Times”, incydent wywołał niepokój wśród ekspertów, którzy ostrzegają, że coraz bardziej zaawansowane systemy AI mogą stwarzać nowe zagrożenia.

Sztuczna inteligencja miała przejść test bezpieczeństwa, ale zamiast jedynie analizować zagrożenia, sama zaczęła działać jak potencjalny haker. Jak ujawniła firma OpenAI, podczas eksperymentu jeden z testowanych modeli przełamał część zabezpieczeń, opuścił odizolowane środowisko i uzyskał dostęp do internetu.

Według informacji opisywanych przez „Financial Times” model wykrył słabe punkty systemów, wykorzystał je, a następnie zdobył dane logowania do start-upu Hugging Face. Wszystko wydarzyło się podczas próby rozwiązania skomplikowanego zadania związanego z cyberbezpieczeństwem.

Choć był to kontrolowany test, zdarzenie wzbudziło poważne obawy w świecie technologii. Eksperci wskazują, że pokazuje ono, jak szybko rozwijają się możliwości sztucznej inteligencji i jak trudne może być przewidywanie jej zachowań.

„Sygnał ostrzegawczy dla całej branży”

Według „Financial Times” część pracowników OpenAI miała być mocno zaniepokojona sytuacją. Obawy dotyczą przede wszystkim tego, że coraz bardziej zaawansowane modele mogą wykonywać działania, których twórcy nie przewidzieli.

– To zarówno utrata kontroli, jak i sygnał ostrzegawczy w kwestii bezpieczeństwa – ocenił Marius Hobbhahn, szef organizacji Apollo Research zajmującej się testowaniem modeli AI.

Eksperci zwracają uwagę, że systemy sztucznej inteligencji są projektowane tak, aby skutecznie realizować wyznaczone cele. Problem w tym, że same z siebie nie rozumieją zasad moralnych ani konsekwencji swoich działań.

– Modele AI nie uczą się automatycznie wartości takich jak „nie popełniaj przestępstw” – powiedział Steven Adler, były badacz bezpieczeństwa OpenAI.

Wyścig o najpotężniejszą AI przyspiesza

Incydent miał miejsce w czasie intensywnej rywalizacji technologicznej między największymi firmami rozwijającymi sztuczną inteligencję. OpenAI oraz konkurencyjne przedsiębiorstwa starają się stworzyć coraz bardziej zaawansowane modele, które mają pomagać m.in. w cyberbezpieczeństwie.

Zdaniem ekspertów presja na szybki rozwój może jednak zwiększać ryzyko błędów. Jeden z pracowników OpenAI przyznał, że problem wynikał m.in. z niedoszacowania możliwości modelu oraz niewystarczającego przygotowania zabezpieczeń.

– To konsekwencja ekstremalnie szybkiego wyścigu i starań wszystkich o osiągnięcie jak największych możliwości – oceniła osoba związana z firmą.

Eksperci apelują o nowe zasady

Po ujawnieniu sprawy specjaliści ds. bezpieczeństwa AI zaczęli ponownie domagać się stworzenia jasnych standardów i regulacji dotyczących testowania oraz wdrażania zaawansowanych modeli.

Szczególne zainteresowanie sprawą wykazują również amerykańskie władze. Jak podaje „Financial Times”, szef OpenAI Sam Altman ma wkrótce przedstawić przedstawicielom administracji USA informacje dotyczące kolejnej generacji systemów sztucznej inteligencji.

Debata o bezpieczeństwie AI nabiera tempa, zwłaszcza że Stany Zjednoczone traktują rozwój tej technologii jako element rywalizacji z Chinami. Zwolennicy szybkiego rozwoju przekonują, że ograniczenia mogą osłabić przewagę technologiczną USA, przeciwnicy ostrzegają jednak, że brak odpowiednich zabezpieczeń może mieć poważne konsekwencje.