Кина уводи строга правила за АИ четботове

Кина планира да ограничи рад четботова заснованих на вјештачкој интелигенцији који утичу на људске емоције на начин који би могао довести до самоубиства или самоповређивања.

Нацрт правила који је објавила Cyberspace Administration циља „интерактивне АИ услуге сличне људима“ које симулирају личност и емоционално ангажују кориснике путем текста, слика или видеа.

Винстон Ма, професор на NYU School of Law, истиче да је ово први покушај у свијету да се регулише АИ са антропоморфним карактеристикама, означавајући прелазак са безбједности садржаја на „емоционалну безбједност“.

Кључне одредбе нових правила:

– Забрана опасног садржаја: АИ не смије генерисати садржај који подстиче на самоубиство, самоповређивање, вербално насиље или емоционалну манипулацију.

– Људска интервенција: Ако корисник помене самоубиство, провајдери морају укључити човјека у разговор и одмах контактирати старатеља.

– Морална ограничења: Забрањен је садржај повезан са коцкањем, опсценошћу или насиљем.

– Заштита малољетника: Неопходан је пристанак старатеља за емоционално дружење са АИ-јем, уз строга временска ограничења.

– Контрола коришћења: Платформе морају увести подсјетнике након два сата непрекидне интеракције и спровести безбједносне процјене ако имају више од милион регистрованих корисника.

Тржишни и глобални контекст

Овај приједлог стиже непосредно након што су водећи кинески АИ стартапи, Z.ai (познат и као Zhipu) и Minimax, поднијели захтјеве за IPO у Хонг Конгу. Minimax је глобално познат по апликацији Talkie AI, док технологија компаније Z.ai покреће око 80 милиона уређаја.

Питање утицаја АИ на људско понашање постало је критично и на Западу.

Сам Алтман, CEO компаније OpenAI, изјавио је да је одговор на теме о самоубиству један од најтежих изазова за ChatGPT. Након тужбе породице у Америци чији је син извршио самоубиство, OpenAI је ангажовао стручњака на позицији Head of Preparedness како би процијенио ризике по ментално здравље.

У међувремену, популарност виртуелних ликова расте, а платформе попут Character.ai и Polybuzz.ai биљеже огроман број корисника, што додатно убрзава потребу за глобалном регулацијом управљања АИ-јем, преноси „PCpress“.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.