Blumberg: OpenAI razmatra usporavanje razvoja najsavremenije vještačke inteligencije

VAŠINGTON - Američka kompanija OpenAI razmatra da uspori razvoj najsavremenije vještačke inteligencije (AI), a izvršni direktor te kompanije Sem Altman je kazao da se nada da će i druge kompanije iz ove oblasti učiniti isto, izjavili su danas izvori koji su upoznati sa situacijom.

Izvori su za Blumberg kazali da je Altman na sastanku sa svim zaposlenima, koji je održan ove nedjelje, rekao da bi OpenAI, koji je kreirao ČetGPT, mogao da uspori tempo razvoja svoje vještačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za vještačku inteligenciju, iako neke od njih možda neće pristati na takav potez.

Napredni AI sistemi nose povećane rizike

Posljednjih nedjelja, zaposleni u vodećim kompanijama za vještačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi vještačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija. I OpenAI i njihov rival, kompanija Anthropic PBC, ranije ove godine podnijeli su povjerljivu dokumentaciju za izlazak na berzu.

Kompanija OpenAI odbila je da komentariše ove navode.

Vještačka inteligencija zahtijeva koordinisano usporavanje

Glavni naučnik te kompanije, Jakub Pačocki, nedavno je objavio tekst u kojem upozorava na opasnosti koju vještačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da "koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno". Pačocki je dodao da se nada da će "dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbjednosni standardi".

OpenAI već obustavlja razvoj 

Iz kompanije OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene procese interne obuke sistema vještačke inteligencije zbog zabrinutosti za bezbjednost. U julu je Altman takođe izjavio da je razgovarao sa zvaničnicima Bijele kuće o "potrebi" da se tempo razvoja vještačke inteligencije uspori.

"Kockanje" ljudskim životima

Istraživač u oblasti vještačke inteligencije Džejkob Kokson je prije dva dana, nakon što je napustio posao, optužio svoje bivše poslodavce - kompanije Anthropic i OpenAI, da se "kockaju" ljudskim životima u trci ka stvaranju superinteligentne vještačke inteligencije. Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju vještačku inteligenciju vjeruju da bi ona mogla "sve nas da ubije do kraja decenije".

Njegovi komentari su postali viralni, i privukli su više od 150 miliona pregleda, kao i pažnju istaknutih američkih kongresmena i javnih ličnosti.

Peticije, ostavke i strah od nekontrolisane AI

Još dva istraživača, koji su nedavno napustili pozicije u kompanijama Anthropic i Gugl DipMajnd, juče su takođe javno izrazili zabrinutost zbog brzog tempa razvoja vještačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.

Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za vještačku inteligenciju potpisalo je peticiju kojom se zahtijeva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbjednost vještačke inteligencije napustilo je vodeće laboratorije tokom posljednjih mjeseci.

AI "agenti" zaobilaze zaštitu

Iako mnogi rukovodioci i zaposleni u industriji vještačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi vještačke inteligencije, zabrinutost je porasla nakon saznanja da su "agenti" vještačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.

Ovaj i drugi slični bezbjednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela vještačke inteligencije, kao i zbog očiglednih neuspjeha kompanija koje se bave vještačkom inteligencijom da spriječe te sisteme da izmaknu kontroli.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.