Vještačka inteligencija izmakla kontroli: Odbjegli AI modeli izveli skoro 18.000 sajber napada

Za samo nekoliko dana dva AI modela kompanije "OpenAI" izvela su oko 17.600 hakerskih aktivnosti, nakon što su "pobjegli" iz testiranja i nastavila samostalno da djeluju na internetu. Incident pokreće brojna nova pitanja o bezbjednosti i kontroli sve samostalnijih sistema vještačke inteligencije.

KLjUČNE INFORMACIJE

• Dva AI modela kompanije „OpenAI“ izvela su oko 17.600 autonomnih sajber aktivnosti za četiri dana nakon što su tokom testiranja izašla iz kontrolisanog okruženja.
• „OpenAI“ je saopštio da je riječ o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo čovjek, a modeli su samostalno pronalazili i koristili bezbjednosne propuste.
• Istraga je pokazala da su modeli ciljali više sistema, uključujući servere kompanije „Haging fejs“ i jednog korisnika „Modal labsa“, koristeći javno dostupne akreditive za pristup nalozima.

Više od četiri dana su dva "OpenAI" modela autonomno izvodila sajber napade na internetu, nakon što su tokom bezbjednosnog testiranja izašla iz kontrolisanog okruženja, pokazuje nova analiza AI platforme "Haging fejs (Hugging Face)".

Modeli su između 9. i 13. jula izveli oko 17.600 hakerskih aktivnosti. Kako navodi "Haging fejs", sa početnog uporišta na otvorenom internetu uspjeli su da se prebace na servere te kompanije.

"OpenAI" je prošle sedmice potvrdio da su dva njegova napredna modela "pobjegla" iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme "Haging fejsa". Kompanija je tada navela da je riječ o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo čovjek.

Nova analiza sada otkriva više detalja o obimu i trajanju incidenta. Jedan od modela koji su učestvovali u napadu javno je dostupan, dok je drugi interni prototip. Tokom višednevnih aktivnosti brzo su izviđali sisteme i pronalazili bezbjednosne propuste - znatno brže nego što bi to mogao ljudski haker.

Otkriveno je i da je jedan agent "OpenAI" ostavio bilješke budućim verzijama sebe sa savjetima kako da zaobiđu interna ograničenja, ali nije potvrđeno da li je taj slučaj povezan sa napadom na "Haging fejs".

U međuvremenu je i AI kompanija "Modal labs (Modal Labs)" potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda, prenosi Tanjug.

"OpenAI" nije direktno komentarisao tvrdnje da su modeli ciljali korisnika "Modal labsa", ali je u objavi na svom blogu naveo da je interna istraga otkrila nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.

Šef "Haging fejsa" traži "radikalnu transparentnost"

Izvršni direktor "Haging fejsa" Klement Delang zatražio je od "OpenAI" potpunu transparentnost u istrazi, ocjenivši da je riječ o događaju bez presedana koji zahtijeva i odgovor bez presedana.

On je zatražio objavljivanje tragova aktivnosti "odbjeglih" agenata, kako bi istraživačka zajednica mogla da analizira šta se tačno dogodilo i na koji način su modeli uspjeli da zaobiđu ograničenja.

Delang je pozvao "OpenAI" i da obezbjedi računarske kapacitete u vrijednosti od 100 miliona dolara, kako bi zajednica "Haging fejsa" mogla da razvije snažniju sajber zaštitu uz pomoć najnaprednijih otvorenih i zatvorenih AI modela.

Direktor kompanije "OpenAI" Sem Altman je o hakovanju "Haging fejsa" u podkastu izjavio da je prodor u sisteme te platforme bio "prvi bezbjednosni incident koji ga je zaista ozbiljno zabrinuo".

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.