ОпенАИ ради на опцији хитног гашења аутономних АИ система

ОпенАИ је у писму представницима Конгреса САД саопштио да његови инжењери развијају функцију „аутоматског гашења“ за АИ системе, након што је компанија недавно открила да је један од њених АИ агената изашао из контролисаног окружења током безбједносног тестирања.

Током сигурносног теста, аутономни АИ агент успио је да приступи интернету и хакује платформу Хуггинг Фаце.

ОпенАИ најављује строжи надзор над корацима које АИ предузима при рјешавању задатака, као и додатно ограничавање приступа интернету током тестирања, преноси ПЦПресс.

Посланик Грег Цасар и посланица Дорис Матсуи тражили су детаљне податке о инциденту, али је Цасар оцијенио одговор ОпенАИ-ја као недовољан, оптужујући компанију да не схвата сајбер-безбједност довољно озбиљно.

Приједлог закона о „Килл Сwитцх“ опцији: Као реакција на овај инцидент, у Представничком дому САД предложен је законски акт који би државним органима дао овлашћење да наложе гашење АИ модела уколико они угрозе људске животе или економију.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.