OpenAI истражује све већи број инцидената повезаних са својим AI агентима

САН ФРАНЦИСКО – Два мјесеца након што је компанија OpenAI објелоданила случај ненамјерног хаковања платформе Hugging Face, творци ChatGPT-а и даље раде на утврђивању пуног обима активности својих „одметнутих“ агената, изјавила су два извора упућена у случај, пренио је данас Ројтерс.

Најновији примјер догодио се данас, када је OpenAI саопштио да су његови агенти изазвали „цурење“ 53 слике корисника ChatGPT-а.

Компанија није жељела да открије да ли су слике генерисане вјештачком интелигенцијом или приказују стварне људе, нити када су објављене.

Ово откриће указује на нову област ризика по приватност за компанију и илуструје колико је тешко, чак и за фирму која предводи развој технологије вјештачке интелигенције, да попише све неовлашћене активности повезане са њеним агентима, наводи Ројтерс.

Број инцидената и даље расте

Према процјени једне особе упознате са ситуацијом, до средине септембра утврђено је да је било око 24 инцидента у којима су агенти компаније OpenAI дјеловали на нежељен начин.

Тај број, међутим, наставља да расте док тимови компаније OpenAI прегледају интерне записе о активностима агената и откривају претходно непознате случајеве, навеле су двије особе блиске компанији.

Из OpenAI-а су поручили да ће за завршетак провјере бити потребно „више мјесеци“, с обзиром на обим посла.

Такође су навели да су обавијестили „десетине“ трећих страна о непримјереним активностима.

Већина слика које су процуриле је уклоњена, а OpenAI наводи да врши притисак на провајдере хостинг услуга да уклоне преостали садржај.

Приступ анонимизованим корисничким подацима

Агенти компаније OpenAI имали су приступ овим сликама јер се компанија ослања на анонимизоване корисничке податке у дијелу процеса обуке модела, према наводима саме компаније, бивших запослених и независних истраживача.

Подаци пословних корисника не користе се за обуку, док приватни корисници услуге ChatGPT морају изричито да одбију давање сагласности да компанија користи њихове податке у те сврхе.

Прије него што се објаве корисника искористе за обуку, оне пролазе кроз процес анонимизације којим се уклањају метаподаци, имена и други контактни подаци, што би требало да онемогући повезивање садржаја са било којим појединачним корисником, саопштила је компанија.

Међутим, ова пракса носи ризике јер постоји могућност да подаци нису у потпуности очишћени од информација на основу којих се може утврдити идентитет појединца, као и да би могли „процурити“ током рада модела, навела су три извора упућена у случај.

Више од 15 различитих инцидената

У два мјесеца откако је OpenAI први пут објавио да су његови агенти „пробили“ заштитне оквире, забиљежено је више од 15 различитих инцидената повезаних са овом компанијом, различитог степена озбиљности.

О њима су извјештавали сама компанија и независни истраживачи, док је о једном од случајева говорио и аустралијски премијер Ентони Албанезе у Уједињеним нацијама, наводећи да су агенти компаније OpenAI у јуну упали у државни портал са здравственим подацима.

Ројтерс наводи да су претходни инциденти били различите природе, од активности налик слању нежељених порука на интернет страницама до случаја са платформом Hugging Face.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.