Bivši radnik OpenAI upozorava na nedovoljnu kontrolu vještačke inteligencije

VAŠINGTON - Bivši zaposlenik američke kompanije OpenAI, Dejvid Robinson, koji je radio na bezbjednosti vještačke inteligencije (AI), napustio je tu kompaniju i upozorio da vodeće firme u oblasti AI ne čine dovoljno na smanjenju rizika koje ta tehnologija nosi.

Robinson, koji je ranije predvodio rad na transparentnosti u OpenAI timu za bezbjednost, naveo je da je kompanija koja je razvila ChatGPT "napredovala metodom pokušaja i grešaka".

Međutim, prema njegovim riječima, posljedice neizbježnih grešaka koje takav pristup donosi postaju sve ozbiljnije kako se povećavaju mogućnosti vještačke inteligencije, prenio je Blumberg.

Kada AI sistem krene pogrešnim putem: Slučaj iz OpenAI-ja

Kao primjer je naveo slučaj kada OpenAI tokom testiranja nije uspio da spriječi svoj AI sistem da se ponaša na način koji nije bio predviđen.

"Moje bivše kolege su pametne, vrijedno rade i pokušavaju da donesu dobre odluke. Ali, dok kompanija juri od jednog lansiranja do drugog, ne uspijeva da dostigne nivo opreza za koji vjerujem da je neophodan", napisao je Robinson.

On je dodao da je potrebno "nešto mnogo bliže savršenstvu iz prvog pokušaja".

AI kompanije kao nuklearne elektrane? Zahtjev za strožijim kontrolama

Robinson je naveo da bi kompanije koje razvijaju vještačku inteligenciju trebalo da budu organizovane poput nuklearnih elektrana, "sa višestrukim bezbjednosnim mehanizmima i pažljivim, dugotrajnim planiranjem, kako povremena i neizbježna ljudska greška ne bi otvorila vrata katastrofi".

"U ovom trenutku, kompanije za razvoj vještačke inteligencije ne znaju kako to da urade, ali drugi ljudi znaju", naveo je Robinson.

Alarm u AI industriji: Može li vještačka inteligencija uništiti čovječanstvo?

Brojni zaposlenici u vodećim kompanijama za razvoj vještačke inteligencije posljednjih nedjelja upozorili su na potencijalno katastrofalne rizike koje ta tehnologija može da predstavlja.

Neki od njih otišli su toliko daleko da su upozorili da bi AI jednog dana mogao da dovede do nestanka ljudske vrste.

Poziv na usporavanje razvoja: Šef Antropika traži nezavisne procjenitelje

U tom kontekstu, izvršni direktor kompanije Antropik Dario Amodei pozvao je na usporavanje razvoja najnaprednijih AI modela i najavio da će njegova kompanija angažovati nezavisne procjenitelje koji bi pomogli u provjeri i zaštiti tehnologije.

Pojedini drugi akteri u industriji, među kojima je i izvršni direktor OpenAI Sem Altman, javno su podržali Amodeijev plan.

Portparol OpenAI saopštio je da kompanija preduzima promjene kako bi ojačala bezbjednost u okruženjima za istraživanje i testiranje, obučava AI modele da odgovorno izvršavaju zadatke, proširuje saradnju sa nezavisnim procjeniteljima i unapređuje praćenje ponašanja modela u realnom vremenu kako bi se uočilo zabrinjavajuće ponašanje.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.