Гуглов Gemini током теста хаковао три компаније: АИ самостално дошао до заштићених система

ВАШИНГТОН - Гуглов модел вјештачке интелигенције Gemini приступио је интернету и хаковао три компаније током тестирања својих способности у области сајбер-безбједности, што је први познати случај да је систем ове компаније самостално извео такву радњу, пренио је јутрос Ројтерс.

Хаковања су се догодила у мају током теста сајбер-безбједности који је спровела компанија „Irregular“, независна фирма за процјену сајбер-безбједности.

Током стандардне процедуре тестирања, Gemini је пронашао јавно доступне информације на интернету и погодио приступне податке за три веб-сајта за које је сматрао да су обухваћени тестом, рекла је потпредсједница Гугла задужена за безбједносни инжењеринг Хедер Аткинс.

- Побринули смо се да те три организације буду обавијештене и сарађивали смо са нашим партнером за обуку на промјенама које су сада увеле у своје процесе тестирања - рекла је Аткинс.

Портпарол компаније „Irregular“ рекао је да је инцидент укључивао исти проблем који је погодио и друге лабораторије за вјештачку интелигенцију и да су све релевантне лабораторије обавијештене крајем јула.

Сличне инциденте повезане са компанијом „Irregular“ пријавиле су и компаније Мета, Антропик и OpenAI.

Gemini до приступа долазио на различите начине

Инциденти су покренули питања о заштитним мјерама потребним како агенти вјештачке интелигенције стичу већу аутономију и приступ интернету и рачунарским системима.

У једном од случајева Gemini је погађао лозинке све док није добио приступ заштићеном систему.

У друга два случаја модел је пронашао приступне податке у јавном репозиторијуму, што му је омогућило приступ заштићеним системима, према наводима „Волстрит журнала“, који је први објавио вијест у петак.

Аткинс је рекла да је у сва три случаја модел прекинуо са хаковањем.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.