AI giganti traže usporavanje razvoje vještačke inteligencije

NjUJORK - Izvršni direktori dvije vodeće svjetske kompanije za vještačku inteligenciju javno su se složili da je potrebno usporiti trku u razvoju sve moćnijih sistema AI, prenosi danas En-Bi-Si njuz.

NjUJORK - Izvršni direktori dvije vodeće svjetske kompanije za vještačku inteligenciju javno su se složili da je potrebno usporiti trku u razvoju sve moćnijih sistema AI, prenosi danas En-Bi-Si njuz.

Time se nastavlja niz upozorenja koja ove sedmice stižu od istraživača koji rade na ovoj tehnologiji, navodi TV mreža.

Direktori OpenAI i Anthropic saglasni: Zašto usporavati razvoj?

Izvršni direktor kompanije "Antropik", Dario Amodei, naveo je u eseju objavljenom u subotu, da bi kompanije koje se bave vještačkom inteligencijom trebalo svjesno da uspore tempo unapređenja svojih modela, ističući da napredak u ovoj oblasti prevazilazi sposobnost istraživača da ga razumiju i kontrolišu.

"Moramo da usporimo tempo kojim unapređujemo sposobnosti modela vještačke inteligencije", napisao je Amodei, direktor kompanije koja je kreirala čet-bot Klod.

On je dodao da će napredak i dalje djelovati brzo, a vrijeme koje se time dobija, mora mudro da se iskoristi.

Sem Altman podržava inicijativu za oprezniji razvoj

Nekoliko sati kasnije, izvršni direktor kompanije "Open-Ei-Aj" (OpenAI) Sem Altman podržao je tu ideju i najavio da će njegova kompanija usvojiti jednu od zaštitnih mjera koje je predložio Amodei.

"Slažem se sa Darijom da moramo da kontrolišemo tempo napretka na samoj granici mogućnosti", napisao je Altman na platformi Dž, dodajući da je to pitanje posljednjih sedmica bilo jedna od glavnih tema razgovora u njegovoj kompaniji.

Altman je i ranije pozivao na usporavanje razvoja vještačke inteligencije. U objavi na platformi Dž od 18. avgusta, on je naveo da je "Open-Ei-Aj" privremeno obustavio obuku određenih naprednih modela kako bi osigurao ispunjavanje standarda u skladu sa povećanjem njihovih sposobnosti.

Rastuća zabrinutost među istraživačima i potencijalni rizici AI

Amodejev poziv uslijedio je nakon što su istraživači iz kompanija "Antropik", "Open-Ei-Aj" i "Gugl" javno izrazili zabrinutost zbog tempa razvoja vještačke inteligencije i pritiska konkurencije koji taj proces prati.

Amodei je ukazao na dvije pojave koje su, kako je kazao, promijenile njegovo razmišljanje, a to su sve veća sposobnost sistema vještačke inteligencije da kreiraju naprednije sisteme, kao i na incident iz jula u kojem su autonomni agenti vještačke inteligencije, pokretani modelom kompanije "Open-Ei-Aj", hakovali sisteme firme "Haging Fejs".

"Lako je zanemariti ovaj incident jer niko nije povrijeđen, a ekonomska šteta je bila minimalna, ali, po mom mišljenju, roj koji bi posjedovao veće sposobnosti, a istovremeno pokazivao sličan nivo neusklađenosti, mogao je da izazove katastrofalnu štetu", napisao je on.

"Kockanje našim životima": Unutrašnja upozorenja na opasnosti AI

Istraživač bezbjednosti u kompaniji "Antropik", Džejkob Kokson, koji je ove sedmice podnio ostavku, rekao je kolegama u poruci do koje je došao En-Bi-Si njuz da smatra da pristup industrije razvoju superinteligentne vještačke inteligencije predstavlja "kockanje našim životima".

"Kada ste unutar sistema, jednostavno ste zarobljeni u trci", rekao je kasnije Kokson, opisujući konkurentske pritiske sa kojima se suočavaju kompanije koje se bave vještačkom inteligencijom.

On je dodao da privatne kompanije uključene u trku ne dozvoljavaju tim ljudima da zaista učine nešto korisno, a mi bismo mogli nesvjesno da ušetamo u katastrofu.

Plan za "kontrolisanje tempa na granici razvoja": Budućnost AI

Amodei predlaže koncept koji naziva "kontrolisanje tempa na granici razvoja", u vidu plana iz tri dijela za koji tvrdi da bi istraživačima obezbijedio više vremena bez zaustavljanja razvoja AI.

On je naveo da će "Antropik" početi da angažuje nezavisne procjenjivače unutar same kompanije, omogućavajući im pristup modelima, internim alatima i istraživačima kako bi mogli da procjene rizike. Amodei se založio za uvođenje sličnog nadzora u vodećim američkim kompanijama za vještačku inteligenciju, uz podršku saveznih propisa i, na kraju, uz međunarodnu koordinaciju.

Cilj nije zaustavljanje napretka vještačke inteligencije, napisao je Amodei, već pružanje vremena istraživačima da razviju zaštitne mehanizme, bolje razumiju način rada sistema koji postaju sve sposobniji i provjere da li njima može pouzdano da se upravlja.

On je procijenio da bi usporavanje razvoja moglo istraživačima da obezbijedi još godinu ili dvije, što je vrijeme koje bi, kako tvrdi, moglo da bude od ključnog značaja, s obzirom na to da sistemi AI postaju sve sposobniji da doprinesu sopstvenom razvoju.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.