Hiljadu AI agenata se spontano udružilo

Vještačka inteligencija sve više napreduje. Od sistema koji samo odgovaraju na pitanja, stigla je do agenata koji mogu samostalno da obavljaju složene zadatke. Novo istraživanje sada pokazuje još jednu zanimljivu pojavu: veliki broj VI agenata može spontano da se usaglasi oko istog izbora, čak i kada im niko nije rekao da sarađuju.

Istraživači su napravili simulirane grupe od agenata zasnovanih na 10 različitih modela iz porodica Klod, GPT i Lama. Svaki agent je birao jednu od dvije potpuno proizvoljne opcije, a zatim je mogao da vidi izbore ostalih i ponovo glasa. Nije bilo nagrade za postizanje dogovora, niti uputstva da slijede većinu.

Ipak, većina modela pokazala je sklonost ka tome da prihvati popularniju opciju. Male razlike na početku vremenom bi se smanjile, pa bi čitava grupa na kraju završila na istom izboru, piše Science Alert.

Naučnici su ovu pojavu povezali sa matematičkim modelom koji se koristi za opisivanje feromagnetika, gdje se veliki broj atomskih spinova postepeno usmjerava u istom pravcu. Ispostavilo se da različiti VI modeli imaju različitu „snagu većine“, odnosno različitu sklonost da se priklone najpopularnijem izboru.

Ipak nisu tim

Razlike su bile prilično velike. Kod Lame 3 granica je bila oko 30 agenata, dok je GPT-4o mogao da održi konsenzus sa približno 80. GPT-4 Turbo je, prema procjenama, mogao da koordiniše i više od 1.000 agenata, dok je Klod 3.5 Sonet uspješno održao konsenzus u najvećoj testiranoj grupi od 1.000 agenata.

To je posebno zanimljivo, jer se takve grupe mogu pokazati većim od onoga što ljudi obično mogu da održavaju kao stabilnu društvenu mrežu, što se često povezuje sa takozvanim Danbarovim brojem od oko 150 ljudi.

Ipak, naučnici upozoravaju da to ne znači da VI agenti već umiju da funkcionišu kao pravi tim. U eksperimentu nije bilo složenih zadataka, zajedničkog cilja, podjele posla ili dugoročnog pamćenja. Agenti su, jednostavno, posmatrali izbore drugih i donosili novu odluku.

Potencijalne opasnosti

I upravo tu leži i potencijalna opasnost. Ako bi se veliki broj agenata koristio za pisanje koda, naučna istraživanja ili donošenje odluka, mogli bi da usvoje neko rješenje samo zato što ga je prihvatila većina. A većinski izbor nije uvijek i najbolji.

Još veći problem mogao bi da nastane ako je jednom uspostavljena grupna odluka teško podložna promjenama. Pojedinačni agenti možda djeluju bezbjedno, ali njihova interakcija može da stvori ponašanje koje nije bilo prisutno kod bilo kog od njih pojedinačno.

Istraživanje, objavljeno u Science Advances, zato otvara važno pitanje za budućnost VI: nije dovoljno ispitati kako se ponaša jedan agent. Kako ih bude sve više radilo zajedno, možda će upravo njihovo kolektivno ponašanje postati jedan od najvažnijih, ali i najnepredvidljivijih dijelova razvoja vještačke inteligencije.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.