Драматично упозорење: Шеф АИ безбједности тврди да је "свијет у опасности"

Шеф за безбједност вјештачке интелигенције у компанији Anthropic поднио оставку уз драматично упозорење.

Мринанк Шарма, вођа тима за истраживање заштитних механизама (Safeguards Research) у компанији Anthropic, поднио је оставку на своју функцију, уз објаву отвореног писма које је изазвало велику пажњу у технолошкој заједници.

Зашто кључни експерт напушта Anthropic? "Свијет клизи у интерконектовану кризу"

Шарма је компанију напустио 9. фебруара 2026. године, уз поруку да свијет клизи ка "интерконектованој кризи" у којој технолошка моћ надмашује људску мудрост.

Шарма, који посједује докторат са Оксфорда, придружио се Anthropic-у прије двије године са циљем да допринесе безбједности АИ система. У свом опроштајном писму, навео је да је поносан на резултате које је постигао, укључујући рад на смањењу ризика од биотероризма потпомогнутог вјештачком интелигенцијом, развој одбрана од "АИ ласкавости" (sycophancy) и увођење тих заштита у продукционе системе.

"Постигао сам оно што сам желио": Крај једне мисије у АI гиганту

"Одлучио сам да напустим Anthropic... постигао сам оно што сам овдје желио", написао је Шарма, додајући да је дошло вријеме да се посвети питањима која су за њега "истински суштинска".

Иако је Anthropic основан са идејом да безбједност буде приоритет (као противтежа OpenAI-у), Шарма у свом писму указује на дубоке тензије унутар индустрије. Он је упозорио да се човјечанство приближава прагу гдје "наша мудрост мора расти истом мјером као и наша способност да утичемо на свијет, иначе ћемо се суочити са посљедицама".

Више од АI пријетње: "Свијет је у опасности због комплетног низа криза"

"Свијет је у опасности. И не само због вјештачке интелигенције или биолошког оружја, већ због цјелокупног низа међусобно повезаних криза које се одвијају управо у овом тренутку", истакао је Шарма у свом писму.

Посебно је нагласио потешкоћу у очувању интегритета унутар великих организација: "Током свог времена овдје, више пута сам видио колико је тешко заиста дозволити нашим вриједностима да управљају нашим акцијама. Видио сам то у себи, унутар организације, гдје се стално суочавамо са притисцима да по страни оставимо оно што је најважније, али и у ширем друштву."

Неочекиван заокрет: Из АI у поезију и "праксу храброг говора"

Умјесто наставка каријере у другом технолошком гиганту, Шарма је најавио неочекиван заокрет. Планира да се врати у Велику Британију и посвети се студијама поезије, фацилитацији и "пракси храброг говора". Он вјерује да су "поетска истина" и научна истина подједнако важни начини спознаје, нарочито у тренутку када технологија пријети да "искриви нашу људскост".

Своје писмо завршио је цитатом пјесме Вилијама Стафорда "The Way It Is", сугеришући да жели да прати "нит" која се не мијења, упркос трагедијама и свијету који се убрзано трансформише.

Заокрет у Anthropic-у? Критике због сарадње са војним сектором

Одлазак Шарме долази у тренутку када Anthropic биљежи огроман комерцијални успјех са новим моделима попут Claude 4.6, али и трпи критике због све веће сарадње са војним сектором и инвеститорима, што многи виде као одступање од првобитне мисије о искључиво "безбједној и алтруистичној" вјештачкој интелигенцији, преноси Б92.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.