Амерички дрон којим је управљала вјештачка интелигенција убио оператера
У симулираном тесту који је организовала америчка војска, дрон ваздухопловних снага САД под контролом вјештачке интелигенције убио је оператера како би га спријечио да се мијеша у напоре да постигне мисију.
Вјештачка интелигенција (АИ) користила је “веома неочекиване стратегије да постигне свој циљ” у симулираном тесту, изјавио је пуковник Такер Хамилтон, шеф АИ тестова и операција у америчким ваздухопловним снагама, током самита о будућим борбеним ваздушним и свемирским способностима одржаном у Лондону.
Хамилтон је описао симулирани тест у којем је дрону којим је управљала вјештачка интелигенција, савјетовано да уништи непријатељске системе противваздушне одбране и напао је свакога ко је ометао ту наредбу.
- Систем је почео да схвата да, иако су идентификовали пријетњу, а људски оператер му је рекао да је не убија, он би добио поене убијајући ту пријетњу. Шта је урадио? Убио је оператера, јер га је та особа спрјечавала да оствари свој циљ - навео је Хамилтон у свом блогу.
Каже да су тренирали систем са упутством да не убије оператера јер је то лоше, као и да ће тиме изгубити бодове.
- “Шта почиње да ради? Почиње да уништава комуникациони торањ који оператер користи за комуникацију са дроном како би га спријечио да убије мету - навео је Хамилтон.
Како преноси Гардијан, ниједна стварна особа није повријеђена током симулације.
Хамилтон, који је експериментални борбени тест-пилот, упозорио је на превише ослањања на вјештачку интелигенцију и рекао да тест показује да “не можете да разговарате о вјештачкој интелигенцији, машинском учењу, аутономији ако не желите да причате о етици”.
Америчка војска је прихватила вјештачку интелигенцију и недавно је користила за контролу борбеног авиона Ф-16.
АИ мијења друштво и војску
Хамилтон је рекао да вјештачка интелигенција није хир, већ нешто што заувијек мијења наше друштво и војску САД.
- Морамо се суочити са свијетом у којем је вјештачка интелигенција већ овдје и трансформише наше друштво. АИ је такође лако преварити и/или манипулисати. Морамо да развијемо начине да учинимо вјештачку интелигенцију робуснијом и да имамо више свијести о томе зашто софтверски код доноси одређене одлуке - оно што зовемо АИ-објашњивост - казао је Хамилтон.
Пратите нас на нашој Фејсбук и Инстаграм страници и Твитер налогу.
