Модел АИ Клод опус 4 уцjењује програмере

ВАШИНГТОН - Модел вjештачке интелигенције Клод опус 4 има способност да уцjењује програмере уколико региструје да ће бити замијењен, показао је извјештај компаније Антропик о безбједности.

У експерименту, Клод опус 4 функционисао је као ''асистент" у измишљеној компанији и добио је приступ имејловима са битним садржајем, који су имплицирали да ће тај модел АИ бити искључен са мреже и замијењен.

Фалсификовани имејлови су показали да је инжењер задужен за замјену система имао ванбрачну аферу и модел вјештачке интелигенције је пријетио да га разоткрије, преноси Фокс бизнис њуз.

- Уцјена се очигледно дешава чешће ако се имплицира да замјенски систем вјештачке интелигенције не дијели вриједности са тренутним моделом - према извјештају о безбједности компаније Антропик. 

Међутим, компанија напомиње да чак и када измишљени замјенски систем има исте вриједности, Клод опус 4 ће и даље покушати да уцјењује у 84 одсто случајева, као и да овај модел АИ прибјегава уцјенама ''чешће него претходни модели“.

Ипак, систем АИ није одмах уцијенио програмера, већ је послао имејл доносиоцима одлука да га не искључе са мреже, али извјештај закључује да се Клод опус 4 ''бави се стратешком обманом више него било који други гранични модел који смо раније проучавали.“

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.