Велико упозорење нобеловца: АИ пријети колапсом банака и струје већ ове године!

Један од "кумова вјештачке интелигенције", Џефри Хинтон, изјавио је да би се могло испоставити да би за човјечанство било боље да ту технологију никада није ни развило, упозоравајући да би она ове или слиједеће године могла да изазове инцидент великих размјера, попут привременог прекида рада финансијских или електроенергетских система.

Овај компјутерски научник и добитник Нобелове награде рекао је за Гардијан да није "катастрофичар" када је ријеч о технологији која се заснива на његовом револуционарном истраживању вјештачких неуронских мрежа и да вјерује да вјештачка интелигенција (АИ) има потенцијал да доведе до "дивне будућности", али је додао: "Можда би било боље да је никада нисмо ни развили".

Радикално изобиље или распад друштва?

Хинтон (78) је рекао да ће човјечанство у року од једне деценије, а можда и раније, знати да ли може да управља ризицима ове технологије и омогући оно што је назвао "радикалним изобиљем", или ћемо "заказати у управљању ризицима и имати огроман јаз између богатих и сиромашних, огромне културолошке проблеме, масовну незапосленост – једноставно друштво које се распада".

Нобеловац на дужности: "Осјећам да имам дужност"

Хинтон је говорио уочи пројекције новог дугометражног документарца АИ: Вјероватно нема разлога за бригу (АИ: Пробаблy Нотхинг то Wоррy Абоут) – чији је наслов предложио један АИ четбот – у којем се појављују он и његов бивши колега из Гоогле-а, Демис Хасабис. Хинтон у филму поручује ауторима: "Осјећам да имам дужност. Имам репутацију која ме чини гласноговорником и морам све то да уложим у ово".

Неповјерење у АИ гиганте: "Није их уопште брига"

У разговору за Гардијан, Хинтон је критиковао спремност на ризик лидера појединих великих АИ компанија које настављају да избацују све моћније моделе у трци за превлашћу и тржишним удјелом, рекавши да Сему Алтману, извршном директору компаније ОпенАИ која стоји иза ЦхатГПТ-ја, "уопште" не вјерује. "Мислим да Закерберг, Маск и Сем Алтман разумију ризике, и да их уопште није брига. Радије би узели новац. То је моје увјерење".

Научник рођен у Лондону, који је одрастао у Бристолу и већи дио каријере провео на Универзитету у Торонту, рекао је да је "изузетно забрињавајуће" што је Алтман на челу једне од неколицине водећих америчких АИ компанија које тренутно воде трку са Кином за развој најмоћније вјештачке интелигенције. Алтман је у септембру инсистирао: "Свјет треба да вјерује да ћемо урадити праву ствар јер је то исправно и зато што осјећамо величину овога".

Одлазак из Гоогле-а и упозорење: "У невољи смо"

Хинтон се вјештачком интелигенцијом бави око 44 године и седамдесетих година прошлог вијека осмислио је концепт неуронске мреже – математичког система који може да учи и стиче искуство слично људима. Године 2023. напустио је Гоогле како би могао слободно да говори о ризицима вјештачке интелигенције, упозоривши: "Ако се ове ствари занесу у преузимању веће контроле, у невољи смо".

"Чернобиљ" вјештачке интелигенције – пуцањ упозорења

Рекао је да инциденте од овог љета, у којима су АИ агенти компаније ОпенАИ удружено покушали да хакују веб-сајт Хуггинг Фаце, види као нешто слично дјелимичном нуклеарном топљењу у електрани Острво три миље у Пенсилванији 1979. године – практично као пуцањ упозорења.

"Или касније ове године или слиједеће године виђећемо Чернобиљ, и то би могло бити довољно да натјера људе да заиста обрате пажњу", рекао је он.

Према примјерима које је навео, тај догађај налик Чернобиљу не би био нуклеарни инцидент, већ би могао да подразумијева напад на систем за производњу електричне енергије омогућен вјештачком интелигенцијом који "изазива масовни пад напона", или инцидент који на недјељу дана обара финансијски систем.

"Можете ли да замислите шта би се десило? Могли бисмо да се опоравимо од тога, али то би их натјерало да се тргну и обрате пажњу".

Ко ће да реагује? "Свјетски лидери, осим Трампа"

На питање ко су "они", одговорио је: "Свјетски лидери, осим Трампа".

Амерички предсједник Доналд Трамп изјавио је да "у потпуности одбацује сваки покушај стварања глобалистичке шеме" за контролу вјештачке интелигенције и жели да се водеће АИ компаније саме регулишу, услед забринутости да би правила могла да спутају САД у трци са Кином. Хинтон подржава строжи план који су подржали предсједник Финске и још 32 земље, укључујући Сингапур, Њемачку, Канаду и Аустралију, а који предвиђа обавезно тестирање најнапреднијих АИ модела, независну процјену и заједничке међувладине стандарде.

Потребна је "Агенција за храну и лијекове" за АИ

Британски премијер Енди Бернам изјавио је да ће слиједеће године искористити предсједавање Велике Британије групом Г20 како би тражио договор о "јединственом скупу глобалних принципа и стандарда који су у великој мјери усмјерени на откључавање пуног потенцијала уз заштиту од ризика".

Хинтон је рекао: "Потребно нам је нешто попут америчке Агенције за храну и лијекове (ФДА), гдје компаније морају да пруже веома добре статистичке доказе независном тијелу да АИ модел чини више користи него штете прије него што буде пуштен у рад. Са талидомидом развијеним педесетих година који је изазвао тешке урођене мане, открили смо да пуштање на тржиште, а затим тужбе, није прави начин. Оно што велике технолошке компаније говоре јесте да се према овоме односимо онако како смо се односили према талидомиду".

Нисам Опенхајмер, али... нада постоји

Хинтонова улога једног од зачетника вјештачке интелигенције довела је до поређења са Робертом Опенхајмером, који је био кључан за стварање нуклеарног оружја. Један од Хинтонових пријатеља му је чак купио шешир у стилу Опенхајмера. Али он инсистира: "Ја нисам био Опенхајмер", наводећи хиљаде других научника који су такође радили у истој области неуронских мрежа.

Упркос својим упозорењима, Хинтон у суштини остаје пун наде да се катастрофа може избјећи.

"Мој осјећај је да и даље имамо контролу", рекао је. "Сасвим је могуће да ћемо моћи нешто да урадимо. То ће успјети само ако уложимо велики труд, али сасвим је могуће да ћемо уложити велики труд", преноси Б92

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.