АИ умало изазвао рат Америке и Кине

Обавјештајни извјештај који је овог прољећа створила умјетна интелигенција умало је довело до оружаног сукоба САД и Кине. У извјештају је писало да кинески брод на Блиском истоку превози компоненте за нуклеарни програм, што је подстакло хитну војну реакцију.

Америчка војска припремала је пресретање пловила, а према тврдњама више извора упућених у догађај, наоружани војници били су спремни за упад на брод док су војни авиони већ били у ваздуху, пише CNN.

Операција заустављена у посљедњем моменту

Операција је заустављена у посљедњем тренутку. Званичници су додатном провјером утврдили да је извјештај, који је саставио аналитичар Команде за специјалне операције, генерисан уз помоћ вјештачке интелигенције.

Chatbot који је аналитичар користио погрешно је протумачио податке и идентификовао терет. CNN није успио сазнати што је брод заиста превозио.

Један од извора описао је извјештај као "потпуно лажан" и додао да је "замало изазвао рат". Било каква америчка акција против кинеског пловила могла је ескалирати у оружани сукоб двију свјетских сила.

Ризици неконтролисане примјене

Инцидент јасно показује ризике који произлазе из примјене нове и недовољно испитане технологије у ратним условима.

Америчка војска и обавјештајна заједница настоје интегрисати умјетну интелигенцију у готово све аспекте д‌јеловања, од анализе података и одабира циљева до логистике и управљања буџетом.

Упозорење аналитичара

Аналитичари већ дуго упозоравају да би се АИ, ако се ослања на лоше или компромитоване податке, могао користити за доношење катастрофалних одлука, попут напада на кинески брод на основу дезинформација.

Како је дошло до грешке

У овом случају, аналитичар је од chatbota затражио анализу обавјештајних података с бродског манифеста.

Подаци су стигли из Команде за специјалне операције САД на Пацифику. Није познато је ли кориштен комерцијални chatbot или алат који је развила америчка влада.

Бивши високи амерички званичник упућен у системе вјештачке интелигенције каже да су "интерни алати углавном само копије комерцијалних производа чија је спољашњост мало ушминкана".

Софтвер је повезао јавно доступне информације с тајним подацима из владиних база и извео погрешан закључак о терету.

Аналитичар је потом истим АИ алатом форматирао налазе у стандардни формат обавјештајног извјештаја и прослиједио га даље унутар система.

Команда за специјалне операције на Пацифику и Пентагон нису одговорили на упит за коментар.

Стратешки императив Пентагона

Брза имплементација вјештачке интелигенције засница се на увјерењу да она војсци може омогућити брже доношење одлука на ратишту, од одабира циљева до распоређивања ресурса.

Званичници сматрају да си САД не смију допустити заостатак за Кином или другим противницима који би могли бити технолошки напреднији.

Министар одбране Пете Hegseth у јануару је представио "Стратегију убрзања примјене вјештачке интелигенције".

"Подстаћи ћемо експериментисање, уклонити бирократске препреке, усмјерити улагања и показати приступ потребан да обезбиједимо водећу позицију у војној примјени вјештачке интелигенције", рекао је Hegseth.

Стратегија налаже широку примјену АИ у цијелој војсци.

Циљ је "демократизовати експериментисање" и омогућити трансформацију унутар Министарства. План предвиђа да се водећи свјетски АИ модели ставе на располагање за три милиона цивилних и војних д‌јелатника на свим нивоима тајности података.

Проблем је што је тај процес децентрализован, наводи више америчких званичника. Различити дијелови владе користе различите алате, под различитим заповједништвима и безбједносним стандардима.

Не постоји јединствени систем правила за провјеру информација које ти алати генеришу. Због тога поузданост и функционалност бројних АИ система у војсци и обавјештајној заједници значајно варирају, преноси Index.

Људски фактор као највећи ризик

Док политичари у Вашингтону расправљају о дугорочним егзистенцијалним пријетњама вјештачке интелигенције, подстакнути упозорењима технолошких лидера, инцидент с кинеским бродом указује на пуно непосреднију опасност. Ријеч је о људима који доносе критичне одлуке на основу нетачних или заваравајућих информација које генеришу аутоматизовани системи.

 "АИ вам омогућава да брже дођете до лоше идеје"

Извори упозоравају да се војска све више ослања на АИ за помоћ при одабиру мета, што носи очигледан ризик од кобних грешака.

"Примјена АИ у одабиру мета дефинитивно је у порасту, а не постоје јасне смјернице о томе како ће присутност човјека у том процесу спријечити цивилне жртве или пријатељску ватру", рекао је други извор упућен у војну политику.

Такозвана "халуцинација" АИ алата, каква се догодила у овом случају, није изолован инцидент откако су се такви системи проширили унутар владе, тврди један од извора.

Неки старији обавјештајни дужносници сматрају да технологија ствара притисак на аналитичаре да брже обрађују и шаљу извјештаје, што повећава могућност грешке. Више извора истиче да су млађи аналитичари посебно склони некритички вјеровати алатима које користе.

Како је сажео један од саговорника: "АИ вам омогућава да брже дођете до лоше идеје".

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.