Kina prati AI sisteme koji komuniciraju slično ljudima

Kina je odlučila da reguliše određene stavke u domenu vještačke inteligencije.

Kinesko regulatorno tijelo za sajber prostor uputilo je na javnu raspravu nacrt novih pravila kojima će se pooštriti nadzor nad uslugama vještačke inteligencije (AI) koje oponašaju ljudsko ponašanje i ulaze u emocionalnu interakciju sa korisnicima.

Prema predloženim propisima, regulacija bi se primjenjivala na AI proizvode i servise koji imaju simulirane crte ljudske ličnosti, obrasce razmišljanja i način komunikacije, uključujući tekstualnu, slikovnu, audio i video interakciju.

Zaštita korisnika i bezbjednosne mjere

Propisani nacrt traži da pružaoci ovakvih usluga upozore korisnike na prekomjernu upotrebu i prepoznaju potencijalne znake zavisnosti, te u tim slučajevima reaguju i intervenišu.

Takođe, predlozi obuhvataju i bezbjednosne mjere tokom cijelog životnog ciklusa proizvoda, uključujući reviziju algoritama, zaštitu podataka i ličnih informacija. Pružaoci usluga bi morali da prepoznaju emocionalno stanje korisnika i da preduzmu mjere ako se ustanove ekstremne emocije ili zavisničko ponašanje.

Ograničenja sadržaja

Nacrt takođe propisuje granice u domenu sadržaja, pa AI sistemi ne bi smjeli da generišu sadržaj koji ugrožava nacionalnu bezbjednost, širi glasine, promoviše nasilje ili opscenost.

Peking ovim potezima želi da pojača bezbjednost i etičke standarde u razvoju i upotrebi naprednih AI tehnologija, posebno onih koje emituju ljudske karakteristike i mogu emotivno da utiču na korisnike, prenosi B92.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.