ChatGPT уводи еротски садржај

ОпенАИ планира да омогући шири спектар садржаја на популарном чатботу ChatGPT, међу којима је и еротски.

Идеја је да апликација „третира одрасле кориснике као одрасле", каже Сем Алтман, директор компаније ОпенАИ.

Сљедеће верзије популарног четбота моћи да ће да се понашају „сличније људима, али само ако то корисник жели, не зато што желимо да повећамо употребу", написао је објави на платформи Икс.

Овај потез, који подсјећа на увођење два сексуално експлицитна четбота на платформи Грок, могао би да помогне ОпенАИ-у да привуче више претплатника.

Истовремено, очекује се да ће појачати притисак на законодавце да уведу строжа ограничења за четбот саговорнике, преноси BBC на српском.

ОпенАИ није одговорио на питања BBC новинара послије објаве Сема Алтмана.

Промјене које је компанија најавила услиједиле су пошто су почетком године родитељи америчког тинејџера који је извршио самоубиство поднијели тужбу против ОпенАИ-ја.

Мет и Марија Рејн, родитељи шеснаестогодишњег Адама Рејна, тужили су компанију, што је био први такав случај.

Калифорнијски пар критиковао је родитељске контроле које је компанија увела, наводно због подстицања здравијег коришћења четбота, и тврдили да оне нису биле довољно строге.

Породица је приложила и исјечке разговора Адама, који је преминуо у априлу, и ChatGPT-ja, у којима д‌јечак говори о сопственим суицидалним мислима.

Алтман је рекао да је ОпенАИ раније учинио ChatGPT „прилично рестриктивним" како би био сигуран да поступа пажљиво у вези с питањима менталног здравља.

„Схватамо да је то учинило алат мање корисним и забавним за многе кориснике који немају проблема с менталним здрављем, али с обзиром на озбиљност теме, жељели смо да поступимо исправно", објаснио је Алтман.

Компанија је успјела да ублажи озбиљне ризике по ментално здравље и да посједује нове алате који јој омогућавају да „безбједно ублажи ограничења у већини случајева", додао је.

„У децембру, како будемо у потпуности увели систем провјере узраста и у складу с принципом 'tretiraj одрасле кориснике као одрасле', дозволићемо још више, па и еротски садржај за верификоване одрасле кориснике", рекао је он.

Ова одлука захтијева строжу контролу на савезном и државном нивоу, кажи критичари вјештачке интелигенције.

„Како ће они осигурати да д‌јеца немају приступ дијеловима ChatGPT-ja који су намијењени одраслима и који садрже еротски садржај?", пита Џени Ким, партнерка у адвокатској фирми Боиес Schiller Flexner.

„ОпенАИ, као и већина великих технолошких компанија у овој области, користи људе као покусне куниће", додаје.

Ким учествује и у тужби против Мете, у којој се тврди да алгоритам Инстаграма негативно утиче на ментално здравље тинејџера.

„Још увијек не знамо ни да ли ће њихов систем провјере узраста функционисати", додала је.

ОпенАИ допушта да налози регистровани као малољетнички генеришу експлицитни еротски садржај, показало је истраживање TechCrunch у апрлиу.

Компанија је тада рекла да ради на исправци како би ограничила такав садржај.

Истраживање које је овог мјесеца објавио непрофитни Центар за демократију и технологију (ЦДТ) показало је да сваки пети ученик тврди да је он или неко кога познаје имао „романтичан однос" са вјештачком интелигенцијом.

У понед‌јељак је гувернер Калифорније Гевин Њусом потписао закон којим се забрањује компанијама да нуде АИ саговорнике д‌јеци, осим ако не могу да гарантују да софтвер неће подстицати штетно понашање.

„Од пресудне важности је да адолесценти науче како безбједно да комуницирају са АИ системима", рекао је Њусом.

На савезном нивоу, америчка Федерална комисија за трговину (ФТЦ) покренула је истрагу о томе како АИ четботови комуницирају с д‌јецом.

Амерички сенат увео је прошлог мјесеца закон који би АИ четботове класификовао као производе, чиме би се корисницима омогућило да подносе тужбе за накнаду штете против њихових произвођача.

Алтманова појавио се у тренутку када скептици преиспитују нагли раст вриједности АИ компанија.

Приходи ОпенАИ расту, али компанија још није профитабилна.

Највеће АИ компаније налазе се у борби за удио на тржишту, каже Роб Лалка, професор пословних студија на Универзитету Тулејн за BBC.

„Ниједна компанија у историји није доживјела такву стопу усвајања као ОпенАИ са ChatGPT-jem.

„Морали су да наставе да гурају дуж те експоненцијалне криве раста, како би што више учврстили доминацију на тржишту", објашњава.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.