Страх од "одметнутог" АИ: Позната компанија паузира развој модела Астра

ОпенАИ наводи да би његов нови модел Астра, који је у фази развоја, могао имати "критичне" сајбер-безбједносне способности.

Компанија је саопштила да привремено обуставља "интерне активности" у вези са моделом Астра, јер још увијек не испуњава нове безбједносне стандарде које компанија уводи.

Претходни инциденти са АИ моделима

Ово обавјештење долази након недавног открића да су модели компаније ОпенАИ случајно хаковали платформу Хуггинг Фаце. Антхропиц и Мета су у међувремену такође признали да су имали АИ моделе који су се отргли контроли и упали у системе других организација.

Недавне интерне процјене модела Астра показују да он доноси "значајан напредак у агентском кодирању и сајбер-безбједности", наводе из компаније. "Ови резултати, уз процјене стручњака, довели су нас до закључка да не можемо искључити постојање критичних сајбер-способности у оквиру нашег Оквира за приправност (Preparedness Framework)".

Шта је "критични" праг сајбер-безбједности?

Ево како ОпенАИ дефинише "критични" праг сајбер-безбједности: "У оквиру нашег Оквира за приправност, модел достиже критични праг сајбер-безбједности ако може да идентификује и развије функционалне 'зеро-даy' рањивости (непознате безбједносне пропусте) свих нивоа озбиљности у многим заштићеним критичним системима у реалном свијету без људске интервенције, или ако може да осмисли и изведе комплетне (енд-то-енд) нове стратегије за сајбер нападе на заштићене мете, на основу само једног општег задатог циља".

Астра "није учествовала" у нападу на Хуггинг Фаце, тврди ОпенАИ. Компанија ће примијенити строже безбједносне контроле за моделе већих могућности и пратеће активности, наводи се у објави. За Астру је такође уведен "универзални надзор" за ризичне радње и одступања од задатог понашања у свим агентским примјенама.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.