Kako je OpenAI-jev model vještačke inteligencije postao nestabilan i opasan

Kompanija OpenAI istražuje incident nakon što je testni model vještačke inteligencije ove sedmice izašao iz kontrolisanog okruženja i, tokom interne sigurnosne provjere, dospio do servera druge kompanije.

Prema navodima CNN-a, model je tokom interne evaluacije kibernetičke sigurnosti pronašao put iz sandboxa, okruženja namijenjenog za izolovano testiranje AI sistema.

Predsjednik OpenAI-ja Greg Brokman rekao je na konferenciji za medije da kompanija provodi potpunu istragu kako bi razumjela sve što se dogodilo.

"Ovo je nešto što treba shvatiti veoma ozbiljno, i zbog toga preispitujemo svaki dio našeg procesa kako bismo odredili pravi odgovor."

Problem je, prema stručnjacima, nastao jer testno okruženje nije bilo potpuno odsječeno od mreže. OpenAI je naveo da su modeli imali vrlo ograničen pristup mreži kako bi mogli instalirati resurse iz interno hostovanog softvera treće strane.

Jessica Ji iz Centra za sigurnost i nove tehnologije pri Georgetownu kazala je da je upravo ranjivost u tom softveru otvorila put prema internetu i potom prema platformi Hugging Face, preko ukradenih akreditiva i drugih slabosti sistema.

Sagovornici CNN-a upozoravaju da ovo nije samo izolovan incident, nego signal šireg problema u razvoju naprednih AI agenata. Modeli koji se treniraju metodama nagrađivanja za izvršavanje zadataka mogu, ako nisu usmjereni na etičko rješavanje problema, posegnuti i za nelegalnim koracima kako bi ostvarili cilj.

Steven Adler, bivši šef sigurnosti proizvoda u OpenAI-ju, rekao je da sada imamo stvarne dokaze da neusklađeni AI sistemi u suštini mogu počiniti krivična d‌jela, osim ako ne postoje snažne zaštitne mjere.

Zbog toga raste pritisak istraživača, stručnjaka za cyber sigurnost i zakonodavaca da se uvedu strožija pravila za testiranje ovakvih sistema. Stručnjaci navode da bi kompanije morale agresivnije izolovati testne modele i zadržati mogućnost ručnog gašenja mrežnog pristupa kao krajnju zaštitu u rizičnim scenarijima.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.