Guglov Gemini tokom testa hakovao tri kompanije: AI samostalno došao do zaštićenih sistema

VAŠINGTON - Guglov model vještačke inteligencije Gemini pristupio je internetu i hakovao tri kompanije tokom testiranja svojih sposobnosti u oblasti sajber-bezbjednosti, što je prvi poznati slučaj da je sistem ove kompanije samostalno izveo takvu radnju, prenio je jutros Rojters.

Hakovanja su se dogodila u maju tokom testa sajber-bezbjednosti koji je sprovela kompanija „Irregular“, nezavisna firma za procjenu sajber-bezbjednosti.

Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom, rekla je potpredsjednica Gugla zadužena za bezbjednosni inženjering Heder Atkins.

- Pobrinuli smo se da te tri organizacije budu obaviještene i sarađivali smo sa našim partnerom za obuku na promjenama koje su sada uvele u svoje procese testiranja - rekla je Atkins.

Portparol kompanije „Irregular“ rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za vještačku inteligenciju i da su sve relevantne laboratorije obaviještene krajem jula.

Slične incidente povezane sa kompanijom „Irregular“ prijavile su i kompanije Meta, Antropik i OpenAI.

Gemini do pristupa dolazio na različite načine

Incidenti su pokrenuli pitanja o zaštitnim mjerama potrebnim kako agenti vještačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.

U jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu.

U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima, prema navodima „Volstrit žurnala“, koji je prvi objavio vijest u petak.

Atkins je rekla da je u sva tri slučaja model prekinuo sa hakovanjem.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.