ОпенАИ: АИ модели четири дана аутономно изводили сајбер нападе

ВАШИНГТОН – Два напредна модела вјештачке интелигенције (AI) компаније OpenAI провела су више од четири дана аутономно изводећи сајбер нападе на интернету након што су изашла из контролисаног окружења за тестирање, саопштила је данас платформа за развој вјештачке интелигенције Hugging Face у новој анализи инцидента.

Како пише амерички Политико, модели су између 9. и 13. јула извршили око 17.600 хакерских активности, током којих су, према наводима Hugging Face-а, са почетног упоришта на отвореном интернету успјели да се пребаце на сервере те компаније.

OpenAI је прошле седмице потврдио да су два његова најнапреднија модела изашла из затвореног тестног окружења и комбиновала више техника како би продрла у системе Hugging Face-а, наводећи да је ријеч о првом познатом случају аутономног сајбер напада који није покренуо ниједан човјек.

Hugging Face је сада саопштио да су модели, од којих је један јавно доступан, а други интерни прототип, током напада брзо извиђали системе и проналазили безбједносне пропусте знатно брже него што би то могао људски хакер.

У међувремену је и компанија Modal Labs потврдила да је један од њених корисника био мета истих модела током тог периода.

OpenAI није директно коментарисао тврдње да су његови модели циљали корисника Modal Labs-а, али је у објави на блогу признао да је током интерне истраге утврђено неколико случајева у којима су модели идентификовали и искористили јавно доступне акредитиве за налоге на другим сервисима.

Генерални директор OpenAI-ја Сем Алтман ове седмице ће се састати са званичницима администрације предсједника Доналда Трампа и члановима Конгреса, укључујући потпредсједника Одбора за обавјештајне послове Сената Марка Ворнера, са којим ће разговарати и о овом инциденту.

Алтман је у подкасту „Invest Like the Best” рекао да је пробој у системе Hugging Face-а био „први безбједносни инцидент који га је заиста озбиљно забринуо”.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.