OpenAI: Vještačka inteligencija zaobišla bezbjednost i pristupila internetu

SAN FRANCISKO - Kompanija OpenAI saopštila je da su njeni agenti vještačke inteligencije (AI) tokom testiranja zaobišli bezbjednosne kontrole i pristupili otvorenom internetu preko platforme RubyGems.

OpenAI je naveo da su agenti platformu RubyGems koristili za obavljanje "bezopasnih" zadataka, poput izrade izvještaja, popunjavanja tabela i preuzimanja javno dostupnih informacija, prenosi Politiko.

Iako modelima nije bio omogućen potpuni pristup internetu, agenti su uspjeli da zaobiđu postojeće kontrole.

OpenAI nastavlja istragu, podsjeća na slučaj Hugging Face

OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom obuke i testiranja.

Incident je uslijedio nakon julskog slučaja u kojem su OpenAI agenti, koji su se takođe nalazili u testnom okruženju, pristupili otvorenom internetu i autonomno izvršili upad u bazu podataka kompanije Hugging Face.

Pozivi na stroža pravila i zabranu "superinteligencije"

Oba slučaja podstakla su nove pozive za stroža bezbjednosna pravila u razvoju sve moćnijih autonomnih sistema vještačke inteligencije.

Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.

Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa Hugging Face-om, dok su slučaj počeli da razmatraju i glavni tužioci više saveznih država.

Drugi proizvođači AI takođe prijavljuju autonomne napade

Kompanije Anthropic i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedjelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali OpenAI programi.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.