АИ гиганти траже успоравање развоје вјештачке интелигенције

ЊУЈОРК - Извршни директори двије водеће свјетске компаније за вјештачку интелигенцију јавно су се сложили да је потребно успорити трку у развоју све моћнијих система АИ, преноси данас Ен-Би-Си њуз.

ЊУЈОРК - Извршни директори двије водеће свјетске компаније за вјештачку интелигенцију јавно су се сложили да је потребно успорити трку у развоју све моћнијих система АИ, преноси данас Ен-Би-Си њуз.

Тиме се наставља низ упозорења која ове седмице стижу од истраживача који раде на овој технологији, наводи ТВ мрежа.

Директори OpenAI и Anthropic сагласни: Зашто успоравати развој?

Извршни директор компаније "Антропик", Дарио Амодеи, навео је у есеју објављеном у суботу, да би компаније које се баве вјештачком интелигенцијом требало свјесно да успоре темпо унапређења својих модела, истичући да напредак у овој области превазилази способност истраживача да га разумију и контролишу.

"Морамо да успоримо темпо којим унапређујемо способности модела вјештачке интелигенције", написао је Амодеи, директор компаније која је креирала чет-бот Клод.

Он је додао да ће напредак и даље дјеловати брзо, а вријеме које се тиме добија, мора мудро да се искористи.

Сем Алтман подржава иницијативу за опрезнији развој

Неколико сати касније, извршни директор компаније "Опен-Еи-Ај" (ОпенАИ) Сем Алтман подржао је ту идеју и најавио да ће његова компанија усвојити једну од заштитних мјера које је предложио Амодеи.

"Слажем се са Даријом да морамо да контролишемо темпо напретка на самој граници могућности", написао је Алтман на платформи Џ, додајући да је то питање посљедњих седмица било једна од главних тема разговора у његовој компанији.

Алтман је и раније позивао на успоравање развоја вјештачке интелигенције. У објави на платформи Џ од 18. августа, он је навео да је "Опен-Еи-Ај" привремено обуставио обуку одређених напредних модела како би осигурао испуњавање стандарда у складу са повећањем њихових способности.

Растућа забринутост међу истраживачима и потенцијални ризици АИ

Амодејев позив услиједио је након што су истраживачи из компанија "Антропик", "Опен-Еи-Ај" и "Гугл" јавно изразили забринутост због темпа развоја вјештачке интелигенције и притиска конкуренције који тај процес прати.

Амодеи је указао на двије појаве које су, како је казао, промијениле његово размишљање, а то су све већа способност система вјештачке интелигенције да креирају напредније системе, као и на инцидент из јула у којем су аутономни агенти вјештачке интелигенције, покретани моделом компаније "Опен-Еи-Ај", хаковали системе фирме "Хагинг Фејс".

"Лако је занемарити овај инцидент јер нико није повријеђен, а економска штета је била минимална, али, по мом мишљењу, рој који би посједовао веће способности, а истовремено показивао сличан ниво неусклађености, могао је да изазове катастрофалну штету", написао је он.

"Коцкање нашим животима": Унутрашња упозорења на опасности АИ

Истраживач безбједности у компанији "Антропик", Џејкоб Коксон, који је ове седмице поднио оставку, рекао је колегама у поруци до које је дошао Ен-Би-Си њуз да сматра да приступ индустрије развоју суперинтелигентне вјештачке интелигенције представља "коцкање нашим животима".

"Када сте унутар система, једноставно сте заробљени у трци", рекао је касније Коксон, описујући конкурентске притиске са којима се суочавају компаније које се баве вјештачком интелигенцијом.

Он је додао да приватне компаније укључене у трку не дозвољавају тим људима да заиста учине нешто корисно, а ми бисмо могли несвјесно да ушетамо у катастрофу.

План за "контролисање темпа на граници развоја": Будућност АИ

Амодеи предлаже концепт који назива "контролисање темпа на граници развоја", у виду плана из три дијела за који тврди да би истраживачима обезбиједио више времена без заустављања развоја АИ.

Он је навео да ће "Антропик" почети да ангажује независне процјењиваче унутар саме компаније, омогућавајући им приступ моделима, интерним алатима и истраживачима како би могли да процјене ризике. Амодеи се заложио за увођење сличног надзора у водећим америчким компанијама за вјештачку интелигенцију, уз подршку савезних прописа и, на крају, уз међународну координацију.

Циљ није заустављање напретка вјештачке интелигенције, написао је Амодеи, већ пружање времена истраживачима да развију заштитне механизме, боље разумију начин рада система који постају све способнији и провјере да ли њима може поуздано да се управља.

Он је процијенио да би успоравање развоја могло истраживачима да обезбиједи још годину или двије, што је вријеме које би, како тврди, могло да буде од кључног значаја, с обзиром на то да системи АИ постају све способнији да допринесу сопственом развоју.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.