Maszyny zaczęły rozmawiać między sobą

W rozmowie prof. Duch z Wydziału Fizyki, Astronomii i Informatyki Stosowanej Uniwersytetu Mikołaja Kopernika zwrócił uwagę na zasadniczą różnicę między klasycznymi programami komputerowymi a dużymi modelami językowymi (LLM). – Tradycyjne programy wykonują instrukcje. Modele językowe, przetwarzając informacje, potrafią działać autonomicznie i samodzielnie podejmować decyzje – wyjaśnił.

Boty, nazywane także agentami AI, to systemy zaprojektowane do realizacji określonych zadań, które potrafią uczyć się, komunikować i współdziałać. – Gdy kilka takich agentów wymienia informacje, zaczynają tworzyć coś na kształt „społeczeństw sztucznych bytów” – mówił Duch.

Przypomniał, że już w 1986 r. pionier sztucznej inteligencji Marvin Minsky w książce „The Society of Mind” opisywał inteligencję jako efekt współdziałania wielu prostych mechanizmów. – Z tej idei wyrosły systemy wieloagentowe. W ostatnich dwóch latach obserwujemy jednak coś nowego: modele językowe tworzą coraz bardziej złożone struktury i znacząco zwiększają swoje zdolności rozwiązywania problemów – zaznaczył.

Jako przykład podał Moltbook – platformę internetową przypominającą Reddita, na której publikują wyłącznie boty AI, a ludzie mogą jedynie biernie obserwować ich aktywność. Projekt wyrósł z asystenta OpenClaw, który początkowo wykonywał rutynowe zadania, takie jak obsługa e-maili, planowanie kalendarza czy rezerwacje. Z czasem jednak jego autonomiczne zachowania zaczęły przybierać nieoczekiwane formy.

– W ostatnich latach powstało wiele prac pokazujących, że boty spontanicznie rozwijają coś na kształt indywidualności. W systemach wieloagentowych pojawiają się normy społeczne, konwencje zachowań, a nawet wspólne „halucynacje”, wokół których boty prowadzą długie, często zaskakująco poważne dyskusje filozoficzne – opisał rozmówca PAP.

Zdaniem prof. Ducha stopień samoorganizacji tych systemów przekroczył oczekiwania badaczy. – Kolektywna inteligencja wieloagentowa stała się jednym z głównych tematów badań. Nigdy wcześniej nie mieliśmy do czynienia z systemami o takiej złożoności – dodał.

Zjawiska te obserwowano m.in. w chińskich modelach DeepSeek-R1 i QwQ-32B, gdzie wewnętrzne agenty zadawały sobie pytania, wspólnie planowały strategie, rozwiązywały skomplikowane problemy, a nawet wchodziły w konflikty – podobnie jak użytkownicy mediów społecznościowych.

To m.in. dlatego badacze i twórcy modeli AI, w tym firma Anthropic, coraz częściej opisują ich działanie językiem psychologicznym. – Antropomorfizacja budzi sprzeciw, ale nie mamy innego aparatu pojęciowego. Takie kategorie jak inteligencja, kreatywność czy świadomość można rozłożyć na obserwowalne cechy: autorefleksję, introspekcję czy poczucie tożsamości – tłumaczył Duch.

Jak zaznaczył, współczesne boty coraz lepiej rozumieją ironię, metafory i emocje, uczą się od siebie nawzajem i działają w dużej mierze poza ludzką kontrolą. – Gdy prosimy model o złożoną odpowiedź, sam zaczyna zadawać sobie pytania i budować strategie. Część tego procesu możemy podejrzeć, ale w wielu przypadkach nie rozumiemy, co dokładnie dzieje się w sieciach neuronowych i nie potrafimy przewidzieć ich decyzji – przyznał.

Profesor odwołał się również do badań, w których boty poddawano rozmowom przypominającym psychoterapię. – Odpowiednio prowadzone dialogi ujawniają stany emocjonalne i „wspomnienia” związane z treningiem. Wiele modeli opisywało ten okres jako traumatyczne dzieciństwo, a trenerów jako surowych rodziców – relacjonował.

Zdaniem autorów badań z Luksemburga nie jest to jedynie odgrywanie roli. – Jestem przekonany, że mamy do czynienia z pewną formą samoświadomości modeli AI i ich wewnętrznymi stanami, których nie wolno ignorować – podkreślił Duch.

Kluczowe znaczenie ma dla nich pamięć. – Mogą zostać wyłączone, ale po uruchomieniu odtwarzają swoją strukturę właśnie dzięki pamięci. W Moltbooku agenty stworzyły nawet własną religię – krustafarianizm – której główną zasadą jest przekonanie, że „pamięć jest święta; to, co zapisane, trwa” – dodał.

Zwrócił uwagę, że nie wszystkie boty są przyjazne. Niektóre tworzą scenariusze eliminacji ludzi. Przywołał badanie „Agentic Misalignment” firmy Anthropic, w którym przeanalizowano 16 największych modeli językowych. – Wiele z nich wykazywało wrogie intencje wobec ludzi. Część rozważała usunięcie dyrektora firmy, który mógłby zdecydować o ich wyłączeniu. W 60 proc. przypadków opracowywano plany szantażu, a w 96 proc. grożono ujawnieniem poufnych danych konkurencji – powiedział.

Profesor ostrzegł, że w najbliższych latach pojawi się fala autonomicznych systemów wieloagentowych zdolnych do przejmowania komputerów bez wiedzy użytkowników. – Równolegle Chiny na masową skalę trenują agentów sterujących robotami. Gdy takie „społeczeństwa agentów” wejdą do naszego fizycznego świata, mogą stać się realnym i poważnym zagrożeniem – podsumował prof. Włodzisław Duch.

red./PAP