Хиљаду АИ агената се спонтано удружило

Вјештачка интелигенција све више напредује. Од система који само одговарају на питања, стигла је до агената који могу самостално да обављају сложене задатке. Ново истраживање сада показује још једну занимљиву појаву: велики број ВИ агената може спонтано да се усагласи око истог избора, чак и када им нико није рекао да сарађују.

Истраживачи су направили симулиране групе од агената заснованих на 10 различитих модела из породица Клод, ГПТ и Лама. Сваки агент је бирао једну од двије потпуно произвољне опције, а затим је могао да види изборе осталих и поново гласа. Није било награде за постизање договора, нити упутства да слиједе већину.

Ипак, већина модела показала је склоност ка томе да прихвати популарнију опцију. Мале разлике на почетку временом би се смањиле, па би читава група на крају завршила на истом избору, пише Science Alert.

Научници су ову појаву повезали са математичким моделом који се користи за описивање феромагнетика, гдје се велики број атомских спинова постепено усмјерава у истом правцу. Испоставило се да различити ВИ модели имају различиту „снагу већине“, односно различиту склоност да се приклоне најпопуларнијем избору.

Ипак нису тим

Разлике су биле прилично велике. Код Ламе 3 граница је била око 30 агената, док је ГПТ-4о могао да одржи консензус са приближно 80. ГПТ-4 Турбо је, према процјенама, могао да координише и више од 1.000 агената, док је Клод 3.5 Сонет успјешно одржао консензус у највећој тестираној групи од 1.000 агената.

То је посебно занимљиво, јер се такве групе могу показати већим од онога што људи обично могу да одржавају као стабилну друштвену мрежу, што се често повезује са такозваним Данбаровим бројем од око 150 људи.

Ипак, научници упозоравају да то не значи да ВИ агенти већ умију да функционишу као прави тим. У експерименту није било сложених задатака, заједничког циља, подјеле посла или дугорочног памћења. Агенти су, једноставно, посматрали изборе других и доносили нову одлуку.

Потенцијалне опасности

И управо ту лежи и потенцијална опасност. Ако би се велики број агената користио за писање кода, научна истраживања или доношење одлука, могли би да усвоје неко рјешење само зато што га је прихватила већина. А већински избор није увијек и најбољи.

Још већи проблем могао би да настане ако је једном успостављена групна одлука тешко подложна промјенама. Појединачни агенти можда дјелују безбједно, али њихова интеракција може да створи понашање које није било присутно код било ког од њих појединачно.

Истраживање, објављено у Science Advances, зато отвара важно питање за будућност ВИ: није довољно испитати како се понаша један агент. Како их буде све више радило заједно, можда ће управо њихово колективно понашање постати један од најважнијих, али и најнепредвидљивијих дијелова развоја вјештачке интелигенције.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.