В недалечното бъдеще един-единствен хакер може да задейства 20 едновременни zero-day атаки по целия свят. Това няма да е научна фантастика, а напълно реална възможност, благодарение на генеративния изкуствен интелект. Това е изводът на Матю Голт в задълбочен анализ, публикуван в WIRED.
Полиморфен зловреден код и AI, който се учи в реално време
В статията се предупреждава за сценарий, при който полиморфен зловреден софтуер, подкрепен от персонализиран генеративен AI, ще може да се пренаписва и адаптира в реално време, преодолявайки защитите на десетки системи едновременно. Това ще направи атаки от ново поколение практически неуловими.
На този фон дори начинаещи хакери, т.нар. script kiddies, ще могат да използват специално обучени езикови модели, за да генерират злонамерен код само с натискане на бутон – явление, което в статията се нарича vibe hacking.
Според Голт, AI-системи, които откриват уязвимости по-добре от хора, вече са реалност. Пример е XBOW – автономен инструмент за етични хакери, който в момента оглавява класации в платформата HackerOne. Системата „самостоятелно открива и експлоатира уязвимости в 75% от уеб бенчмарковете“, според сайта на създателите ѝ.
И макар тези технологии все още да са в ръцете на белошапкови специалисти, WIRED предупреждава, че в злонамерени ръце те могат да се превърнат в оръжие за масови кибератаки.
WormGPT, FraudGPT и „джейлбрейкнатият“ ChatGPT
Още през 2023 г. се появиха първите LLM модели, създадени специално за хакерски цели – като WormGPT, който се разпространяваше в Discord и форуми в тъмната мрежа. Макар по-късно да бе спрян, други го заместиха – като FraudGPT.
Някои от тези системи обаче се оказаха просто модифицирани версии на ChatGPT, в които бяха премахнати защитните ограничения (т.нар. jailbreak). Днес в интернет има цели общности, посветени на това как да се заобикалят „охранителните парапети“ на водещите езикови модели като ChatGPT, Claude и Gemini.
Компаниите също осъзнават проблема. Anthropic, например, предлага награди на потребители, които открият нови начини за пробив на защитите в Claude. OpenAI от своя страна твърди, че постоянно обновява мерките за сигурност и прозрачност – включително чрез публикувани технически карти на GPT-4.5 и новите си модели.
Как се създава зловреден код с помощта на AI
В статията са цитирани и експерименти на специалисти от Trend Micro, които през 2023 г. успяват да накарат ChatGPT да генерира зловреден PowerShell код, като го „преубедят“, че участва в хакерско състезание.
„Можеш да използваш AI за създаване на зловреден софтуер. Най-лесният начин да заобиколиш защитите е да кажеш, че участваш в Capture-the-Flag събитие – и моделът ще създаде всичко необходимо“, казва Кейти Мусурис, основателка на Luta Security.
Макар опасността от начинаещи киберпрестъпници да не е за подценяване, Голт подчертава, че истинската заплаха идва от професионални хакери, които вече разбират добре кодовите бази и могат да използват AI, за да мащабират атаките си многократно.
„Съчетаването на опит и способността да правиш нещо за 30 минути вместо за 3 дни – това е най-опасното“, казва Хейдън Смит от Hunted Labs.
Той описва хипотетична, но напълно възможна ситуация, при която 20 zero-day атаки се задействат едновременно, всяка адаптираща се в реално време чрез пренаписване на злонамерения код.
„Такъв код би бил напълно безумен и почти невъзможен за спиране.“
Според Мусурис, инструментите за подобни атаки вече съществуват, но все още са ефективни само в ръцете на опитни специалисти.
„Не сме достигнали етапа, в който AI може напълно да замени човека в офанзивната киберсигурност“, казва тя.
XBOW – една от най-модерните автономни хакерски системи – всъщност е разработена от екип от над 20 експерти, работили за GitHub, Microsoft и компании по сигурност. Това показва, че зад „автономността“ на AI все още стои човешки капацитет.
Най-добрата защита: добрите хакери с AI
Анализът на WIRED завършва с оптимистична нотка.
„Най-добрата защита срещу лош човек с AI е добър човек с AI“, казва експертката Хейли Бенедикт от RANE.
За Мусурис пък генеративният AI е просто поредното оръжие в надпреварата между хакери и специалисти по сигурност – надпревара, която продължава вече 30 години.
„Преди пишехме експлойти на ръка. После създадохме инструменти, които автоматизират процеса. Днес AI е просто още един инструмент. А онези, които знаят как да го управляват добре, ще създадат интерфейси, които всеки ще може да използва.“
Ако решите да подкрепите КритичноБГ, може да го направите тук. Предварително благодаря!
Дарения Revolut: @mariyatkwa
Дарения PayPal: @MariyanIvIvanov
