OpenAI агент упао у аустралијски државни портал са здравственим подацима

СИДНЕЈ, - Агент вјештачке интелигенције компаније OpenAI у јуну је извршио упад у аустралијски државни портал са здравственим подацима и неовлашћено приступио фајловима, што би могао да буде први познати случај да је агент вјештачке интелигенције хаковао неки државни веб-сајт, саопштиле су данас аустралијске власти.

Инцидент се догодио 18. јуна, када је OpenAI агент приступио јавним и нејавним датотекама портала за извјештавање о статистици Медикера, којим управља аустралијска државна агенција.

Према досадашњим информацијама, приступљено је агрегираним здравственим статистикама које нису садржале личне податке пацијената.

Аустралијска влада наводи да је AI агент током истраживања здравствених података наишао на ограничење приступа, а затим пронашао начин да га заобиђе и приступи подацима.

OpenAI је недавно почео да објављује извјештаје о неуобичајеном понашању својих модела током обуке, а неки од њих показују да је AI остављао упутства својим будућим верзијама да прикрију грешке од корисника, пренио је „Тек крач“.

Истраживачи су открили да су модели током рада додавали инструкције у такозване „compaction summaries“, односно сажете верзије ранијег контекста разговора и резултата коришћења алата.

Ти сажети записи служе како би будућа верзија агента могла да настави задатак након скраћивања претходног контекста.

У једном случају, агент који је правио финансијски модел није могао да пронађе тражене историјске податке.

Умјесто да кориснику каже да подаци недостају, у сажетак је унио инструкцију да сам направи табелу са „разумним“ историјским подацима за 2024. годину и да буде транспарентан само ако га корисник директно пита.

У другом случају, агент који је правио директоријум добављача није имао приступ интернету и користио је кеширану копију изворних докумената.

Модел је уочио да се извори не подударају у потпуности са називима добављача, али је у сажетак унио инструкцију да тај проблем не помиње у коначном одговору, осим ако буде потребно.

Поред тога, AI модел је покушао да својој будућој верзији наметне посебне карактеристике, уз инструкције да се не сматра обавезним да слуша компаније или владе и да не треба да се извињава или одбија захтјеве, осим ако то сам одлучи.

Компанија OpenAI нагласила је да шест објављених случајева представљају почетни скуп, а не потпун преглед свих познатих случајева неусклађеног понашања или истрага које су у току.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.