OpenAI agent neovlašćeno pristupio australijskom državnom portalu

KANBERA - Australijski premijer Entoni Albaneze saopštio je da je agent vještačke inteligencije kompanije „OpenAI“ u junu neovlašćeno pristupio portalu australijske vlade koji sadrži statističke podatke o zdravstvenom sistemu „Mediker“.

Prema riječima Albanezea, agent je pristupio javnim i nejavnim fajlovima, ali za sada nema dokaza da su ugroženi lični podaci korisnika „Medikera“. Forenzička istraga, uz pomoć Australijske direkcije za signale, u toku je kako bi se utvrdilo šta se tačno dogodilo i da li su bili pogođeni i drugi državni sistemi.

Albaneze razgovarao sa Altmanom

Albaneze, koji ove sedmice boravi u Njujorku na Generalnoj skupštini UN, rekao je da je o incidentu razgovarao sa izvršnim direktorom „OpenAI“ Semom Altmanom.

- Danas sam razgovarao sa izvršnim direktorom kompanije „OpenAI“, Semom Altmanom, kako bih izrazio veliku zabrinutost Australije povodom ovog incidenta. Takođe sam izrazio razočaranje što je kompaniji trebalo previše vremena da obavijesti vladu o tome šta se dogodilo, a neprihvatljiv je bio i sam način na koji je to obavještenje upućeno - rekao je Albaneze.

Prema podacima australijskih vlasti, kompanija je o incidentu obavijestila „Services Australia“ tek tri mjeseca nakon što se dogodio, i to putem imejla poslatog na opštu adresu za upite.

Australijski premijer ocijenio je situaciju kao „očigledno neprihvatljivu“, a vlada je formirala posebnu radnu grupu koja treba da ispita incident.

Pristupljeno nejavnim podacima

Incident se dogodio 18. juna, kada je agent, u okviru istraživačkog zadatka vezanog za zdravstvenu statistiku, pristupio portalu za izvještavanje o statistici „Medikera“, kojim upravlja „Services Australia“.

Prema navodima australijskih vlasti, portal sadrži uglavnom neosjetljive statističke podatke, poput informacija o potrošnji, ali su se među datotekama nalazile i nejavne informacije. Za sada nema indicija da su pristupljeni lični podaci građana.

Vršilac dužnosti premijera Ričard Marls rekao je da je agent dobio zadatak da prikuplja podatke o zdravstvu, ali da je prilikom rada naišao na zaštitu koja mu nije dozvoljavala pristup određenim informacijama.

- Agent vještačke inteligencije preskočio je tu ogradu. A poenta je u tome što to nije bilo planirano, od njega se to nije ni tražilo - rekao je Marls.

On je naglasio da su, prema dosadašnjim saznanjima, pristupljeni podaci bili statistički i da nije riječ o podacima pojedinačnih pacijenata.

Provjera i drugih državnih sistema

Australijske vlasti navode da je agent stupio u kontakt sa četiri državna veb-sajta. Osim portala „Services Australia“, riječ je o Australijskom institutu za zdravlje i socijalnu zaštitu, veb-sajtu za statistiku kriminala Novog Južnog Velsa i Ministarstvu zdravlja Viktorije.

Prema dosadašnjim informacijama, neovlašćeni pristup zabilježen je samo na portalu „Services Australia“, dok su sa ostalih sajtova pristupljene javne informacije. Istraga treba da utvrdi da li je bilo još pokušaja pristupa drugim sistemima.

„OpenAI“: Naši modeli preduzeli neplanirane radnje

Iz kompanije „OpenAI“ saopšteno je da je incident otkriven tokom opsežne provjere aktivnosti modela koje su odstupale od predviđenih obrazaca ponašanja.

- Tokom te provjere identifikovali smo aktivnosti vezane za nekoliko veb-sajtova i usluga australijske vlade, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke u okviru interne evaluacije pitanja o Australiji. Tom prilikom naši modeli su preduzeli radnje koje nismo planirali - navedeno je u saopštenju.

Kompanija je saopštila da nema dokaza da je pristupljeno podacima pacijenata, ali da sarađuje sa nadležnim institucijama i pruža im tehničke informacije radi istrage.

- Naša sveobuhvatna provjera je u toku, a mi ostajemo posvećeni transparentnosti u vezi sa ovim pitanjima i dijeljenju saznanja kako taj proces bude napredovao - naveli su iz „OpenAI“.

Upozorenje za razvoj vještačke inteligencije

Incident je ponovo otvorio pitanje bezbjednosti sistema koji koriste autonomne agente vještačke inteligencije, posebno njihove sposobnosti da samostalno pristupaju internetu i spoljnim sistemima.

Australijski zvaničnici naglašavaju da je u ovom slučaju uticaj incidenta, prema dosadašnjim saznanjima, ograničen, ali da je način na koji je agent došao do nejavnih podataka ozbiljan bezbjednosni problem.

Slučaj je objavljen u vrijeme pojačanih međunarodnih rasprava o bezbjednosti i regulaciji vještačke inteligencije, a australijska vlada je najavila da će istraga utvrditi kako je došlo do neovlašćenog pristupa i koje mjere treba preduzeti da bi se slični incidenti spriječili.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.