Свијет
Фото: Илустрација
САН ФРАНЦИСКО – Више од милион корисника платформе "ChatGPT" сваке недјеље показује знаке самоубилачких намјера, саопштила је компанија "Опен АИ", у оквиру извјештаја о безбједности свог четбота.
Према наводима из званичног блог поста, "OpenAI" процјењује да поруке са „експлицитним индикаторима потенцијалног самоубилачког планирања или намјере“ чине значајан дио укупних интеракција корисника, пише Гардијан.
То је једно од најдиректнијих признања компаније о могућем утицају вјештачке интелигенције на ментално здравље.
Компанија је саопштила и да око 0,07 одсто активних корисника недјељно – што је приближно 560.000 људи од око 800 милиона корисника – показује могуће знаке психотичних епизода или маничног понашања, преноси ТАНЈУГ.
У објави се напомиње да су такве процјене почетне и да их је тешко прецизно квантификовати.
Да би побољшала тачност и етичке стандарде у комуникацији, "Опен АИ" је ангажовала 170 клиничара и стручњака за ментално здравље из своје Глобалне мреже љекара.
Они су анализирали више од 1.800 одговора модела у ситуацијама које укључују озбиљне кризе менталног здравља и помогли у прилагођавању садржаја који се односи на емотивну подршку.
Стручњаци за ментално здравље раније су упозоравали да четботови могу нехотице да подстакну опасне мисли потврђујући корисникове заблуде или негативна осјећања – феномен познат као „улизивање“.
Генерални директор "Опен АИ" Сем Алтман рекао је раније овог мјесеца да је компанија „направила напредак у смањењу ризика од озбиљних проблема менталног здравља“ и најавио ублажавање одређених ограничења у раду "ChatGPT"-а.
"Опен АИ" је саопштио да ће наставити да развија механизме за безбједнију употребу својих модела и да сарађује са независним стручњацима и регулаторима како би, како наводе, „AИ алати постали подршка, а не пријетња корисницима у кризи“.
Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.
Најновије вијести из рубрике
