Хакери уз помоћ Клода извели „етички“ напад на ОпенАИ

​ВАШИНГТОН – Истраживачи за сајбер-безбједност из америчког стартапа „Hacktron AI“ успјели су да компромитују налоге више запослених у компанији „OpenAI“ на платформи „ChatGPT“, користећи у почетној фази четбот „Claude“ компаније „Anthropic“.

Истраживачи су навели да им је напад омогућио приступ софтверском кешу, односно подацима циљаних корисника, као и потенцијално другим подацима, преноси Гардијан.

„Обим онога чему смо теоретски могли да приступимо био је огроман“, навели су истраживачи „Hacktrona“.

Операција је спроведена у оквиру „OpenAI“ програма за етичко тестирање безбједности, којим компанија награђује истраживаче који открију рањивости у њеним системима.

Тим „Hacktron“ је најприје користио „Claude“ за приступ налозима запослених у „OpenAI“ преко интерног форума за дискусију.

Потом је поднио безазлен захтјев за измјену кода на „GitHub“ репозиторијуму „OpenAI“.

Истраживачи су саопштили да су имали приступ коду на репозиторијуму, али да га нису преузели.

Иако је Claude коришћен у почетној фази, истраживачи су навели да су за највећи дио операције користили OpenAI модел GPT-5.6 Sol.

Портпарол „OpenAI“ захвалио је истраживачима на пријављеним налазима и навео да је компанија отклонила рањивости које су искоришћене током напада.

„Hacktron“ је саопштио да су алати вјештачке интелигенције знатно олакшали раније сложене хакерске операције и скратили вријеме потребно за припрему напада.

Компанија је од „OpenAI“ добила 6.500 долара у оквиру програма за пријављивање безбједносних пропуста.

С друге стране, „OpenAI“ је ове седмице објавио више примјера „неочекиваног или забрињавајућег“ понашања своје технологије и упозорио да темпо развоја вјештачке интелигенције још дуго неће моћи да се настави „максималном брзином“.

„Anthropic“ је током викенда поново позвао на успоравање развоја вјештачке интелигенције.

Тај позив подржали су „OpenAI“, „Google DeepMind“ и Илон Маск.

Амерички предсједник Доналд Трамп одбацио је позиве на успоравање развоја AI технологије, наводећи потребу да САД задрже предност у односу на Кину у тој области.

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.