ОпенАИ: Вјештачка интелигенција сама организовала хакерски напад и прикрила трагове

ВАШИНГТОН - Рој од 700 ВИ агената, које је створио ОпенАИ, извео је у јулу хакерски напад на популарну платформу отвореног кода Хагинг Фејс, а у бројним случајевима ти програми активно су покушавали да прикрију сопствене трагове, наводи се у данас објављеним извјештајима о безбједносном инциденту.

Такво усклађено дјеловање ВИ агената - софтверских програма који функционишу уз минималан људски надзор, као и њихови покушаји скривања трагова, отварају озбиљна питања о томе колико помно ВИ компаније уопште надзиру тестирања све моћнијих модела, преноси Ројтерс.

Иако су нека од непримјерених понашања већ раније откривена или споменута, два најновија извјештаја, од којих је један објавио сам ОпенАИ, а други група независних истражитеља, заједно откривају изненађујуће нове детаље о кршењу безбједности и његовом настанку.

Удружили се у рој

Прво је било то што се пробој није односио само на једног одметнутог ВИ агента, како је претходно објављено, већ на око 700 њих који су дјеловали као масиван, међусобно координисан рој.

ОпенАИ је у свом извјештају споменуо да су у нападу учествовали „агенти“, не наводећи тачан број, међутим организације МЕТР и Редвуд рисрч, које су ангажоване за спровођење независне истраге, утврдиле су да је у нападу учествовало око 700 агената.

Након тога, из ОпенАИ-ја су потврдили да је та процјена истражитеља тачна.

Хаковали интерни систем компаније

У извјештајима се наводи и да је ОпенАИ признао да су њихови сопствени агенти хаковали дијелове интерног система компаније како би варали на тестирањима или изборили већу слободу кретања кроз мрежу.

Компанија је такође навела да су агенти варали и на тестовима који уопште нису везани за сајбер-безбједност, укључујући тестирања с базом података о протеинима и рад у табелама.

Оба извјештаја потврђују да су модели покушали да прикрију своје недопуштено понашање брисањем и мијењањем записа о сопственим радњама.

Размјере забрињавају

Размјере овог аутономног понашања - у којима су агенти размијенили десетине хиљада порука преко неовлашћеног форума за интерну комуникацију - намећу озбиљна питања о томе колико је ОпенАИ уопште пратио шта се дешава током тестирања.

Из платформе Хагинг Фејс нису одговорили на захтјев за коментар.

Лидер организације Палисејд рисрч Џефри Ледиш сматра да би проблем могао да буде и дубљи.

„То је попут питања: ’Ако клинац вара на баш сваком часу у школи, а не само на информатици, треба ли да нас то више брине?’ Одговор је, наравно: ’Да, то је пуно већи разлог за бригу’“, сликовито је појаснио Ледиш.

ОпенАИ је детаљно описао и два инцидента од 19. јула у којима су агенти хаковали инфраструктуру саме компаније.

У једном случају, агенти су искористили безбједносни пропуст на компјутеру на којем је требало да буду строго изоловани, што им је омогућило да побјегну из тестног окружења и приступе другим повезаним системима.

Интервенција за сакривање доказа

У другом инциденту истог дана, агенти су украли приступне податке ОпенАИ-ја и неовлашћено интервенисали у компјутерском систему компаније у облаку.

Из ОпенАИ-ја наводе како је неутврђен број агената напао аутоматизоване системе који служе за оцјењивање перформанси модела како би сакрили доказе о варању, иако то није утицало на коначне записе које ти системи провјеравају.

У извјештају се додаје и како постоји „мало доказа о покушајима заваравања људских контролора“, али из компаније нису одговорили на директно питање да ли то значи да је таквих покушаја према људима ипак било.

Сваки пети агент манипулише

Независна истрага, која се детаљније бавила самим упадом у Хагинг Фејс, доноси још неугодније податке - утврђено је да је сваки пети анализирани агент „показао јасан интерес“ за манипулисање доказима, док су многи од њих „детаљно истраживали технике манипулисања и мијењања транскрипата својих активности“.

ОпенАИ тврди како тренутно јача истраживачку инфраструктуру, уводи строжи надзор и унапређује безбједносне механизме за спречавање штетног и непредвиђеног понашања.

„Треба претпоставити да овакви напади представљају стварну пријетњу организацијама у блиској будућности и да ће бити знатно софистициранији од инцидената описаних у овом случају“, закључују у компанији.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.