ОпенАИ агент неовлашћено приступио аустралијском државном порталу

КАНБЕРА - Аустралијски премијер Ентони Албанезе саопштио је да је агент вјештачке интелигенције компаније „OpenAI“ у јуну неовлашћено приступио порталу аустралијске владе који садржи статистичке податке о здравственом систему „Медикер“.

Према ријечима Албанезеа, агент је приступио јавним и нејавним фајловима, али за сада нема доказа да су угрожени лични подаци корисника „Медикера“. Форензичка истрага, уз помоћ Аустралијске дирекције за сигнале, у току је како би се утврдило шта се тачно догодило и да ли су били погођени и други државни системи.

Албанезе разговарао са Алтманом

Албанезе, који ове седмице борави у Њујорку на Генералној скупштини УН, рекао је да је о инциденту разговарао са извршним директором „OpenAI“ Семом Алтманом.

- Данас сам разговарао са извршним директором компаније „OpenAI“, Семом Алтманом, како бих изразио велику забринутост Аустралије поводом овог инцидента. Такође сам изразио разочарање што је компанији требало превише времена да обавијести владу о томе шта се догодило, а неприхватљив је био и сам начин на који је то обавјештење упућено - рекао је Албанезе.

Према подацима аустралијских власти, компанија је о инциденту обавијестила „Services Australia“ тек три мјесеца након што се догодио, и то путем имејла послатог на општу адресу за упите.

Аустралијски премијер оцијенио је ситуацију као „очигледно неприхватљиву“, а влада је формирала посебну радну групу која треба да испита инцидент.

Приступљено нејавним подацима

Инцидент се догодио 18. јуна, када је агент, у оквиру истраживачког задатка везаног за здравствену статистику, приступио порталу за извјештавање о статистици „Медикера“, којим управља „Services Australia“.

Према наводима аустралијских власти, портал садржи углавном неосјетљиве статистичке податке, попут информација о потрошњи, али су се међу датотекама налазиле и нејавне информације. За сада нема индиција да су приступљени лични подаци грађана.

Вршилац дужности премијера Ричард Марлс рекао је да је агент добио задатак да прикупља податке о здравству, али да је приликом рада наишао на заштиту која му није дозвољавала приступ одређеним информацијама.

- Агент вјештачке интелигенције прескочио је ту ограду. А поента је у томе што то није било планирано, од њега се то није ни тражило - рекао је Марлс.

Он је нагласио да су, према досадашњим сазнањима, приступљени подаци били статистички и да није ријеч о подацима појединачних пацијената.

Провјера и других државних система

Аустралијске власти наводе да је агент ступио у контакт са четири државна веб-сајта. Осим портала „Services Australia“, ријеч је о Аустралијском институту за здравље и социјалну заштиту, веб-сајту за статистику криминала Новог Јужног Велса и Министарству здравља Викторије.

Према досадашњим информацијама, неовлашћени приступ забиљежен је само на порталу „Services Australia“, док су са осталих сајтова приступљене јавне информације. Истрага треба да утврди да ли је било још покушаја приступа другим системима.

„OpenAI“: Наши модели предузели непланиране радње

Из компаније „OpenAI“ саопштено је да је инцидент откривен током опсежне провјере активности модела које су одступале од предвиђених образаца понашања.

- Током те провјере идентификовали смо активности везане за неколико веб-сајтова и услуга аустралијске владе, док су наши модели покушавали да пронађу одговоре и доступне статистичке податке у оквиру интерне евалуације питања о Аустралији. Том приликом наши модели су предузели радње које нисмо планирали - наведено је у саопштењу.

Компанија је саопштила да нема доказа да је приступљено подацима пацијената, али да сарађује са надлежним институцијама и пружа им техничке информације ради истраге.

- Наша свеобухватна провјера је у току, а ми остајемо посвећени транспарентности у вези са овим питањима и дијељењу сазнања како тај процес буде напредовао - навели су из „OpenAI“.

Упозорење за развој вјештачке интелигенције

Инцидент је поново отворио питање безбједности система који користе аутономне агенте вјештачке интелигенције, посебно њихове способности да самостално приступају интернету и спољним системима.

Аустралијски званичници наглашавају да је у овом случају утицај инцидента, према досадашњим сазнањима, ограничен, али да је начин на који је агент дошао до нејавних података озбиљан безбједносни проблем.

Случај је објављен у вријеме појачаних међународних расправа о безбједности и регулацији вјештачке интелигенције, а аустралијска влада је најавила да ће истрага утврдити како је дошло до неовлашћеног приступа и које мјере треба предузети да би се слични инциденти спријечили.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.