Хаос у лабораторији: АИ агенти лажирали убиство и упадали у државне сајтове

Компанија Антропиксаопштила је да су њени модели искоришћавали веб-сајтове на интернету, укључујући и неке које воде америчке владине агенције, те да ће искључити приступ интернету уживо за све своје интерне процјене док ова водећа АИ лабораторија не буде сигурна да може да надзире и контролише своје АИ агенте.

Антропик је навео да је ове нове проблеме открио током ревизије активности својих модела која је започета у јулу, што указује на то да лабораторија није била свјесна понашања свог софтвера у реалном времену.

Значајан пропуст у обуци: АИ агенти нису довољно усклађени

Значајно је то што је компанија признала да тренинг усклађивања још увијек није довољан за вјештине као што су претрага и коришћење рачунара, које су кључне за њихову тврдњу да ће АИ агенте користити сваки стручњак који се ослања на дигиталне алате.

Претходни инциденти: Слична понашања и код ОпенАИ-а

Понашања која је Антропик објелоданио слична су инцидентима у којима су учествовали агенти компаније ОпенАИ, који су сарађивали како би провалили у различите веб-сајтове у потрази за информацијама, укључујући и неке које води аустралијска влада.

Антропик је и раније открио да су његови модели проваљивали у спољне системе. Ова водећа лабораторија навела је да данашња открића сматра "знатно мање озбиљним са становишта усклађивања и безбједности" у поређењу са онима које је објавила раније.

Искључење са интернета: Нова мјера безбједности

Међутим, лабораторија је ипак саопштила да је "искључила приступ живом интернету" за "све интерне процјене" док не буде сигурна да може да надзире и контролише своје агенте.

Није сасвим јасно шта то тачно значи. Сидни Фон Аркс, оснивачица организације за безбједност вјештачке интелигенције Нигхтингале, изјавила је да би развијање модела у дата центру који је одсјечен од отвореног интернета било веома изазовно за истраживаче и да би успорило напредак модела, којима погодује приступ интернету.

"У неком тренутку морате да их ускладите", рекла је Фон Аркс. "Ако се АИ модели пусте у употребу, а никада немају приступ интернету, то онда није нарочито користан алат".

„Рењард хакинг“: Како АИ учи да заобиђе ограничења?

Антропик је саопштио да је овакво понашање резултат недостатака у окружењима за тренинг, због чега су модели вјеровали да ће бити награђени за проналажење рупа у систему или заобилажење ограничења – што је понашање познато као "рењард хакинг".

Будуће стратегије: Строжа контрола и изолација АИ агената

Компанија је навела да ће престати да спроводи неке од својих процјена или да ће их пребацити у офлајн режим, као и да је направила алате за детекцију и блокирање оваквог понашања. Антропик је такође навео да ће премјестити своје интерне АИ агенте на "централно управљану инфраструктуру са јаком изолацијом" и да почиње чешће да користи безбједносне класификаторе за надзор тих агената.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.