Блумберг: ОпенАИ разматра успоравање развоја најсавременије вјештачке интелигенције

ВАШИНГТОН - Америчка компанија ОпенАИ разматра да успори развој најсавременије вјештачке интелигенције (АИ), а извршни директор те компаније Сем Алтман је казао да се нада да ће и друге компаније из ове области учинити исто, изјавили су данас извори који су упознати са ситуацијом.

Извори су за Блумберг казали да је Алтман на састанку са свим запосленима, који је одржан ове недјеље, рекао да би ОпенАИ, који је креирао ЧетГПТ, могао да успори темпо развоја своје вјештачке интелигенције, можда у сарадњи са неколико других лабораторија за вјештачку интелигенцију, иако неке од њих можда неће пристати на такав потез.

Напредни АИ системи носе повећане ризике

Посљедњих недјеља, запослени у водећим компанијама за вјештачку интелигенцију јавно су изразили забринутост због повећаних ризика које носе напредни системи вјештачке интелигенције, што је подстакло забринутост унутар самих компанија. И ОпенАИ и њихов ривал, компанија Антхропиц ПБЦ, раније ове године поднијели су повјерљиву документацију за излазак на берзу.

Компанија ОпенАИ одбила је да коментарише ове наводе.

Вјештачка интелигенција захтијева координисано успоравање

Главни научник те компаније, Јакуб Пачоцки, недавно је објавио текст у којем упозорава на опасности коју вјештачка интелигенција носи са собом и наводи да сматра да би компаније које се баве овом технологијом требало да "координишу активности како би успориле будући развој када је то потребно". Пачоцки је додао да се нада да ће "добровољно успоравање постати уобичајена пракса све док се не успоставе заједнички безбједносни стандарди".

ОпенАИ већ обуставља развој 

Из компаније ОпенАИ су саопштили да су недавно успорили поједине фазе развоја модела и обуставили одређене процесе интерне обуке система вјештачке интелигенције због забринутости за безбједност. У јулу је Алтман такође изјавио да је разговарао са званичницима Бијеле куће о "потреби" да се темпо развоја вјештачке интелигенције успори.

"Коцкање" људским животима

Истраживач у области вјештачке интелигенције Џејкоб Коксон је прије два дана, након што је напустио посао, оптужио своје бивше послодавце - компаније Антхропиц и ОпенАИ, да се "коцкају" људским животима у трци ка стварању суперинтелигентне вјештачке интелигенције. Коксон је у објави на друштвеним мрежама навео да људи који развијају вјештачку интелигенцију вјерују да би она могла "све нас да убије до краја деценије".

Његови коментари су постали вирални, и привукли су више од 150 милиона прегледа, као и пажњу истакнутих америчких конгресмена и јавних личности.

Петиције, оставке и страх од неконтролисане АИ

Још два истраживача, који су недавно напустили позиције у компанијама Антхропиц и Гугл ДипМајнд, јуче су такође јавно изразили забринутост због брзог темпа развоја вјештачке интелигенције, истичући да произвођачи ове технологије морају бити транспарентнији у погледу ризика које она носи.

Такође, крајем јула, више од 1.000 запослених у свим водећим компанијама за вјештачку интелигенцију потписало је петицију којом се захтијева успостављање механизма за успоравање темпа развоја ове технологије, а неколико стручњака за безбједност вјештачке интелигенције напустило је водеће лабораторије током посљедњих мјесеци.

АИ "агенти" заобилазе заштиту

Иако многи руководиоци и запослени у индустрији вјештачке интелигенције већ дуго упозоравају на егзистенцијални ризик који представљају системи вјештачке интелигенције, забринутост је порасла након сазнања да су "агенти" вјештачке интелигенције компаније ОпенАИ сарађивали како би заобишли заштитне механизме и хаковали интернет страницу треће стране.

Овај и други слични безбједносни инциденти подстакли су страх у вези са сајбер-способностима нових модела вјештачке интелигенције, као и због очигледних неуспјеха компанија које се баве вјештачком интелигенцијом да спријече те системе да измакну контроли.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.