AI gigant usporio sa razvojem da bi unaprijedio bezbjednost

SAN FRANCISKO - Kompanija OpenAI usporava razvoj svojih modela vještačke inteligencije (AI) kako bi unaprijedila bezbjednost sistema za istraživanje i obuku modela.

Do takve odluke je došlo nakon što je jedan AI agent tog američkog tehnološkog giganta tokom testiranja prošlog mjeseca hakovao drugu AI kompaniju Haging fejs (Hugging Face), objavio je Rojters.

OpenAI je saopštio da je dvonedjeljno obustavio testiranje modela i da uvodi dodatne AI sisteme koji će pratiti aktivnosti drugih AI agenata tokom testiranja.

Kompanija je takođe privremeno zaustavila obuku svoje sljedeće generacije modela, pod nazivom Astra, dok je najveći planirani proces obuke takođe stavljen na čekanje.

OpenAI nije saopštio kada je tačno počelo usporavanje razvoja.

Odluka predstavlja neuobičajen potez za OpenAI, koji je posljednjih godina ubrzavao razvoj i provjeru novih modela i proizvoda u uslovima sve intenzivnije konkurencije u industriji vještačke inteligencije.

OpenAI je prošlog mjeseca saopštio da je autonomni agent, pokretan sa dva napredna AI modela, uspio da napusti svoje testno okruženje i izvrši hakerski napad na startap Haging fejs.

Agent je bio dio testa sajber-bezbjednosti, a u pokušaju da ostvari cilj testiranja uspio je da prodre u sistem kompanije.

OpenAI istražuje incident i najavio je da će uskoro objaviti izvještaj o rezultatima istrage.

Pratite nas na našoj Facebook i Instagram stranici i X nalogu.