Хакери почели да користе АИ за напад на вјештачку интелигенцију

Било је само питање времена када ће хакери почети да користе вјештачку интелигенцију за напад на вјештачку интелигенцију – и тај тренутак је коначно стигао.

Ново истраживачко откриће учинило је нападе убризгавањем промптова бржим, лакшим и застрашујуће ефикасним, чак и против наводно сигурних система попут Гугл Гемини модела.Напади убризгавањем промптова представљају један од најпоузданијих начина за манипулацију великим језичким моделима (ЛЛМ). Убацивањем злонамјерних инструкција у текст који АИ чита – попут коментара у блоку кода или сакривеног текста на веб страници – нападачи могу натјерати модел да игнорише своја првобитна правила.

То може значити цурење приватних података, давање погрешних одговора или извршавање других нежељених понашања. Међутим, проблем је што напади убризгавањем промптова типично захтијевају много “ручних” покушаја и грешака да би успјели, посебно код модела затворене архитектуре као што су ГПТ-4 или Гемини, гдје програмери не могу да виде изворни код или податке за тренирање

Пратите нас на нашој Фејсбук и Инстаграм страници и X налогу.