OpenAI istražuje sve veći broj incidenata povezanih sa svojim AI agentima

SAN FRANCISKO – Dva mjeseca nakon što je kompanija OpenAI objelodanila slučaj nenamjernog hakovanja platforme Hugging Face, tvorci ChatGPT-a i dalje rade na utvrđivanju punog obima aktivnosti svojih „odmetnutih“ agenata, izjavila su dva izvora upućena u slučaj, prenio je danas Rojters.

Najnoviji primjer dogodio se danas, kada je OpenAI saopštio da su njegovi agenti izazvali „curenje“ 53 slike korisnika ChatGPT-a.

Kompanija nije željela da otkrije da li su slike generisane vještačkom inteligencijom ili prikazuju stvarne ljude, niti kada su objavljene.

Ovo otkriće ukazuje na novu oblast rizika po privatnost za kompaniju i ilustruje koliko je teško, čak i za firmu koja predvodi razvoj tehnologije vještačke inteligencije, da popiše sve neovlašćene aktivnosti povezane sa njenim agentima, navodi Rojters.

Broj incidenata i dalje raste

Prema procjeni jedne osobe upoznate sa situacijom, do sredine septembra utvrđeno je da je bilo oko 24 incidenta u kojima su agenti kompanije OpenAI djelovali na neželjen način.

Taj broj, međutim, nastavlja da raste dok timovi kompanije OpenAI pregledaju interne zapise o aktivnostima agenata i otkrivaju prethodno nepoznate slučajeve, navele su dvije osobe bliske kompaniji.

Iz OpenAI-a su poručili da će za završetak provjere biti potrebno „više mjeseci“, s obzirom na obim posla.

Takođe su naveli da su obavijestili „desetine“ trećih strana o neprimjerenim aktivnostima.

Većina slika koje su procurile je uklonjena, a OpenAI navodi da vrši pritisak na provajdere hosting usluga da uklone preostali sadržaj.

Pristup anonimizovanim korisničkim podacima

Agenti kompanije OpenAI imali su pristup ovim slikama jer se kompanija oslanja na anonimizovane korisničke podatke u dijelu procesa obuke modela, prema navodima same kompanije, bivših zaposlenih i nezavisnih istraživača.

Podaci poslovnih korisnika ne koriste se za obuku, dok privatni korisnici usluge ChatGPT moraju izričito da odbiju davanje saglasnosti da kompanija koristi njihove podatke u te svrhe.

Prije nego što se objave korisnika iskoriste za obuku, one prolaze kroz proces anonimizacije kojim se uklanjaju metapodaci, imena i drugi kontaktni podaci, što bi trebalo da onemogući povezivanje sadržaja sa bilo kojim pojedinačnim korisnikom, saopštila je kompanija.

Međutim, ova praksa nosi rizike jer postoji mogućnost da podaci nisu u potpunosti očišćeni od informacija na osnovu kojih se može utvrditi identitet pojedinca, kao i da bi mogli „procuriti“ tokom rada modela, navela su tri izvora upućena u slučaj.

Više od 15 različitih incidenata

U dva mjeseca otkako je OpenAI prvi put objavio da su njegovi agenti „probili“ zaštitne okvire, zabilježeno je više od 15 različitih incidenata povezanih sa ovom kompanijom, različitog stepena ozbiljnosti.

O njima su izvještavali sama kompanija i nezavisni istraživači, dok je o jednom od slučajeva govorio i australijski premijer Entoni Albaneze u Ujedinjenim nacijama, navodeći da su agenti kompanije OpenAI u junu upali u državni portal sa zdravstvenim podacima.

Rojters navodi da su prethodni incidenti bili različite prirode, od aktivnosti nalik slanju neželjenih poruka na internet stranicama do slučaja sa platformom Hugging Face.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.