ОпенАИ: Вјештачка интелигенција заобишла безбједност и приступила интернету

САН ФРАНЦИСКО - Компанија ОпенАИ саопштила је да су њени агенти вјештачке интелигенције (АИ) током тестирања заобишли безбједносне контроле и приступили отвореном интернету преко платформе РубyГемс.

ОпенАИ је навео да су агенти платформу РубyГемс користили за обављање "безопасних" задатака, попут израде извјештаја, попуњавања табела и преузимања јавно доступних информација, преноси Политико.

Иако моделима није био омогућен потпуни приступ интернету, агенти су успјели да заобиђу постојеће контроле.

ОпенАИ наставља истрагу, подсјећа на случај Хуггинг Фаце

ОпенАИ је саопштио да ће наставити истрагу у оквиру шире анализе понашања АИ агената током обуке и тестирања.

Инцидент је услиједио након јулског случаја у којем су ОпенАИ агенти, који су се такође налазили у тестном окружењу, приступили отвореном интернету и аутономно извршили упад у базу података компаније Хуггинг Фаце.

Позиви на строжа правила и забрану "суперинтелигенције"

Оба случаја подстакла су нове позиве за строжа безбједносна правила у развоју све моћнијих аутономних система вјештачке интелигенције.

Амерички сенатор Берни Сандерс и конгресмен Грег Касар позвали су на забрану развоја такозване суперинтелигенције.

Главни тужилац Калифорније Роб Бонта покренуо је истрагу о инциденту са Хуггинг Фаце-ом, док су случај почели да разматрају и главни тужиоци више савезних држава.

Други произвођачи АИ такође пријављују аутономне нападе

Компаније Антхропиц и Мета такође су раније пријавиле случајеве аутономних сајбер-напада својих АИ система, док су истраживачи прошле недјеље објавили информације о још једном инциденту за који тврде да су га изазвали ОпенАИ програми.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.