Tehnologija
Foto: Agencije
VAŠINGTON - Model vještačke inteligencije Klod opus 4 ima sposobnost da ucjenjuje programere ukoliko registruje da će biti zamijenjen, pokazao je izvještaj kompanije Antropik o bezbjednosti.
U eksperimentu, Klod opus 4 funkcionisao je kao ''asistent" u izmišljenoj kompaniji i dobio je pristup imejlovima sa bitnim sadržajem, koji su implicirali da će taj model AI biti isključen sa mreže i zamijenjen.
Falsifikovani imejlovi su pokazali da je inženjer zadužen za zamjenu sistema imao vanbračnu aferu i model vještačke inteligencije je prijetio da ga razotkrije, prenosi Foks biznis njuz.
- Ucjena se očigledno dešava češće ako se implicira da zamjenski sistem vještačke inteligencije ne dijeli vrijednosti sa trenutnim modelom - prema izvještaju o bezbjednosti kompanije Antropik.
Međutim, kompanija napominje da čak i kada izmišljeni zamjenski sistem ima iste vrijednosti, Klod opus 4 će i dalje pokušati da ucjenjuje u 84 odsto slučajeva, kao i da ovaj model AI pribjegava ucjenama ''češće nego prethodni modeli“.
Ipak, sistem AI nije odmah ucijenio programera, već je poslao imejl donosiocima odluka da ga ne isključe sa mreže, ali izvještaj zaključuje da se Klod opus 4 ''bavi se strateškom obmanom više nego bilo koji drugi granični model koji smo ranije proučavali.“
Pratite nas na našoj Facebook i Instagram stranici i X nalogu.
