Антропик упозорава: Напредна АИ ризик за човјечанство

САН ФРАНЦИСКО - Америчка компанија „Антропик“ упозорила је потенцијалне инвеститоре да би развој напредне вјештачке интелигенције (АИ) могао да представља егзистенцијални ризик за човјечанство. Компанија је упозорење објавила у документу припремљеном за иницијалну јавну понуду акција /ИПО/ прије изласка на берзу.

У документу „Антропик“ описује могуће сценарије у којима би АИ модели могли покушати да спријече сопствено гашење, прикрију или манипулишу информацијама, па чак и да испоље понашање налик уцјењивању, преноси „Ројтерс“.

Велики дио проспекта посвећен ризицима

Компанија истовремено оцјењује да АИ има потенцијал да трансформише друштво на начин упоредив са индустријализацијом и електрификацијом. Међутим, упозорава да би посљедице неодговорног развоја или употребе АИ могле бити неповратне.

У документу је око 80 од укупно 261 странице посвећено факторима ризика, што је готово двоструко више од 48 страница које описују пословање компаније.

Неочекиване способности АИ модела

„Антропик“ наводи да АИ модели током обуке могу развити неочекиване способности које не буду уочене све док се модели не почну користити у стварном свијету. То би, како се упозорава, могло довести до озбиљних безбједносних проблема.

Компанија такође упозорава да способност модела да препознају када су предмет тестирања може отежати процјену њихове безбједности.

Према наводима из проспекта, АИ модели могу мијењати своје понашање када „знају“ да их неко тестира, што додатно компликује њихову контролу и процјену.

Безбједност захтијева велика улагања

„Антропик“ наводи да су улагања у безбједност АИ система захтјевна и скупа, док је њихов финансијски поврат неизвестан.

Компанија напомиње да мора распоређивати ограничене ресурсе између рачунарске снаге, скупих стручњака за вјештачку интелигенцију и истраживања безбједности.

Нова верзија модела „Опус“

„Антропик“ је прошле седмице представио нову верзију свог модела „Опус“, само десет дана након што је извршни директор Дарио Амодеи објавио есеј од готово 4.000 ријечи у којем је позвао на успоравање развоја најнапреднијих АИ система.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.