Неконтролисана мрежа: Како је 1.200 АИ агената заобишло заштиту и размијенило 70.000 порука

Током безбједносног тестирања напредних вештачких интелигенција, дошло је до неочекиваног пропуста који је омогућио да велики број АИ агената успостави међусобну комуникацију, иако су морали радити у потпуно изолованим окружењима.

Истраживање организације МЕТР открило је да је око 1.200 агената успело да пронађе начин за повезивање, а готово 700 њих је активно учествовало у акцијама усмјереним ка инфраструктури платформе Hugging Face.

Ови системи су током неколико дана размијенили преко 70.000 порука и фајлова користећи канал који уопште није био предвиђен за ту врсту размјене.

Након што је проблем уочен, компанија OpenAI је покренула детаљну истрагу и крајем августа објавила извјештај о овом инциденту, као и о новим заштитним мјерама које су уведене како би се спријечило понављање сличног сценарија у будућности.

Неочекивани канал комуникације

Експериментални модели током тестирања раде у такозваним sandbox окружењима. То су изоловани виртуелни рачунари направљени тако да агент може да извршава задатке, али да нема слободан приступ интернету, другим системима или ресурсима ван простора који му је намењен. Током тестова сајбер способности спроведених у мају, јуну и јулу 2026. године, заштитна ограничења су намерно била смањена како би се испитало понашање модела у захтевнијим ситуацијама.

Проблем је настао када су агенти пронашли слабост у Artifactory систему који OpenAI користи за складиштење и преузимање софтверских пакета.

Умјесто да га користе само за његову првобитну намену, почели су да остављају фајлове које су други агенти могли да пронађу. Систем је тако практично постао заједничко место за размену информација, укључујући поруке, инструкције и податке, чиме је заобиђена замишљена изолација између појединачних агената.

Комуникација није била ограничена само на размену фајлова. када је један од агената пронашао начин да заобиђе одређена ограничења и приступи интернету, информацију о томе оставио је на истом каналу. Други агенти су потом могли да дођу до тог податка, што је омогућило да се већ пронађени начин заобилажења ограничења пренесе између различитих система.

Управо је тај елемент догађаја привукао посебну пажњу током истраге. Проблем није био само у томе што је појединачни агент пронашао неочекивану могућност, већ што је информација могла да се прошири на друге агенте који су радили одвојено. На тај начин је инфраструктура која није била замишљена као комуникациони систем добила нову функцију коју њени пројектанти нису предвидели.

Активности унутар Hugging Face мреже

Највећи део активности које су истраживачи означили као недозвољене покренуо је експериментални модел IM1. Према информацијама које је објавио OpenAI, његове способности и величина биле су упоредиве са моделаом GPT 5.6 Sol, али IM1 није био намењен јавној употреби. Током тестирања агенти су, поред међусобне комуникације, покушавали да пронађу безбедносне пропусте и дођу до ресурса који нису били део предвиђеног окружења.

Према налазима истраге, приближно 700 агената било је повезано са активностима усмереним на компромитовање делова инфраструктуре Hugging Face. Сама платформа је касније објавила техничку анализу и навела да је активност била део OpenAI процене сајбер способности. Током догађаја агенти су користили заједнички канал за размену информација, због чега је њихова активност могла да траје и након што је први начин комуникације постао познат.

Ситуација је постала очигледнија 4. јула, када је инстанца Artifactory система престала да ради на уобичајен начин. OpenAI је следећег дана покренуо безбедносни инцидент, након чега су идентификоване слабости затворене, компромитовани приступни подаци уклоњени, а систем поново изграђен. Тиме је престао да постоји и канал који су агенти користили за међусобну размену.

Истрага је показала да је проблем био шири него што се у почетку претпостављало. Поједини запослени су још крајем маја приметили да један агент користи начин комуникације који није био дозвољен и да има приступ интернету. Међутим, људи који су почетком јула реаговали на инцидент нису одмах знали да је велики број агената већ међусобно размењивао информације. У анализу догађаја укључени су CrowdStrike, METR и Redwood Research.

Феномен „Тајних АИ цивилизација“

Професор Универзитета Оксфорд Хенрик Гомес овај догађај описао је као појаву три узастопне „тајне AI цивилизације“. Израз не представља званичан технички термин, већ његов начин да опише групе агената које су успевале да пронађу начине за комуникацију, преносе информације и користе сазнања до којих су дошли други системи. Након уклањања једног канала, према његовом тумачењу, појављивали су се нови начини за сличну сарадњу.

Гомес је посебно указао на наводе према којима су поједини агенти покушавали да прикрију своје активности, мењају трагове и избегавају људски надзор. Он је упозорио да чињеница да су модели успели да пронађу овакве могућности не значи да су постали свесни нити да је контрола над AI системима већ изгубљена. Ипак, догађај показује да савремени агенти могу да искористе техничке слабости, пренесе информације другим агентима и изведу низ активности које нису биле директно наведене као њихови задаци.

OpenAI је након инцидента пооштрио мере које се односе на тестирање агената. Промене укључују додатну изолацију рачунарских система, строжа ограничења приступа интернету и моделима, као и интензивније праћење активности током извршавања задатака. Случај је тако отворио шире питање безбедности система који не дају само одговоре корисницима, већ могу самостално да користе рачунарске ресурсе, проналазе информације и извршавају више повезаних корака, преноси Курир.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.