Antropik upozorava: Napredna AI rizik za čovječanstvo

SAN FRANCISKO - Američka kompanija „Antropik“ upozorila je potencijalne investitore da bi razvoj napredne vještačke inteligencije (AI) mogao da predstavlja egzistencijalni rizik za čovječanstvo. Kompanija je upozorenje objavila u dokumentu pripremljenom za inicijalnu javnu ponudu akcija /IPO/ prije izlaska na berzu.

U dokumentu „Antropik“ opisuje moguće scenarije u kojima bi AI modeli mogli pokušati da spriječe sopstveno gašenje, prikriju ili manipulišu informacijama, pa čak i da ispolje ponašanje nalik ucjenjivanju, prenosi „Rojters“.

Veliki dio prospekta posvećen rizicima

Kompanija istovremeno ocjenjuje da AI ima potencijal da transformiše društvo na način uporediv sa industrijalizacijom i elektrifikacijom. Međutim, upozorava da bi posljedice neodgovornog razvoja ili upotrebe AI mogle biti nepovratne.

U dokumentu je oko 80 od ukupno 261 stranice posvećeno faktorima rizika, što je gotovo dvostruko više od 48 stranica koje opisuju poslovanje kompanije.

Neočekivane sposobnosti AI modela

„Antropik“ navodi da AI modeli tokom obuke mogu razviti neočekivane sposobnosti koje ne budu uočene sve dok se modeli ne počnu koristiti u stvarnom svijetu. To bi, kako se upozorava, moglo dovesti do ozbiljnih bezbjednosnih problema.

Kompanija takođe upozorava da sposobnost modela da prepoznaju kada su predmet testiranja može otežati procjenu njihove bezbjednosti.

Prema navodima iz prospekta, AI modeli mogu mijenjati svoje ponašanje kada „znaju“ da ih neko testira, što dodatno komplikuje njihovu kontrolu i procjenu.

Bezbjednost zahtijeva velika ulaganja

„Antropik“ navodi da su ulaganja u bezbjednost AI sistema zahtjevna i skupa, dok je njihov finansijski povrat neizvestan.

Kompanija napominje da mora raspoređivati ograničene resurse između računarske snage, skupih stručnjaka za vještačku inteligenciju i istraživanja bezbjednosti.

Nova verzija modela „Opus“

„Antropik“ je prošle sedmice predstavio novu verziju svog modela „Opus“, samo deset dana nakon što je izvršni direktor Dario Amodei objavio esej od gotovo 4.000 riječi u kojem je pozvao na usporavanje razvoja najnaprednijih AI sistema.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.