Бивши радник OpenAI упозорава на недовољну контролу вјештачке интелигенције

ВАШИНГТОН - Бивши запосленик америчке компаније ОпенАИ, Дејвид Робинсон, који је радио на безбједности вјештачке интелигенције (АИ), напустио је ту компанију и упозорио да водеће фирме у области АИ не чине довољно на смањењу ризика које та технологија носи.

Робинсон, који је раније предводио рад на транспарентности у ОпенАИ тиму за безбједност, навео је да је компанија која је развила ЦхатГПТ "напредовала методом покушаја и грешака".

Међутим, према његовим ријечима, посљедице неизбјежних грешака које такав приступ доноси постају све озбиљније како се повећавају могућности вјештачке интелигенције, пренио је Блумберг.

Када AI систем крене погрешним путем: Случај из ОпенАИ-ја

Као примјер је навео случај када ОпенАИ током тестирања није успио да спријечи свој АИ систем да се понаша на начин који није био предвиђен.

"Моје бивше колеге су паметне, вриједно раде и покушавају да донесу добре одлуке. Али, док компанија јури од једног лансирања до другог, не успијева да достигне ниво опреза за који вјерујем да је неопходан", написао је Робинсон.

Он је додао да је потребно "нешто много ближе савршенству из првог покушаја".

AI компаније као нуклеарне електране? Захтјев за строжијим контролама

Робинсон је навео да би компаније које развијају вјештачку интелигенцију требало да буду организоване попут нуклеарних електрана, "са вишеструким безбједносним механизмима и пажљивим, дуготрајним планирањем, како повремена и неизбјежна људска грешка не би отворила врата катастрофи".

"У овом тренутку, компаније за развој вјештачке интелигенције не знају како то да ураде, али други људи знају", навео је Робинсон.

Аларм у AI индустрији: Може ли вјештачка интелигенција уништити човјечанство?

Бројни запосленици у водећим компанијама за развој вјештачке интелигенције посљедњих недјеља упозорили су на потенцијално катастрофалне ризике које та технологија може да представља.

Неки од њих отишли су толико далеко да су упозорили да би АИ једног дана могао да доведе до нестанка људске врсте.

Позив на успоравање развоја: Шеф Антропика тражи независне процјенитеље

У том контексту, извршни директор компаније Антропик Дарио Амодеи позвао је на успоравање развоја најнапреднијих АИ модела и најавио да ће његова компанија ангажовати независне процјенитеље који би помогли у провјери и заштити технологије.

Поједини други актери у индустрији, међу којима је и извршни директор ОпенАИ Сем Алтман, јавно су подржали Амодеијев план.

Портпарол ОпенАИ саопштио је да компанија предузима промјене како би ојачала безбједност у окружењима за истраживање и тестирање, обучава АИ моделе да одговорно извршавају задатке, проширује сарадњу са независним процјенитељима и унапређује праћење понашања модела у реалном времену како би се уочило забрињавајуће понашање.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.