LLM SECURITY 101: От AI-подпомагани атаки към AI-оркестрирани кибератаки

Когато AI се превърне в част от самия процес на атаката

В предишната глава на LLM Security 101 разгледахме как AI може да ускори откриването на уязвимости и да увеличи натиска върху екипите по сигурността да оценяват, приоритизират и отстраняват слабости по-бързо.

Следващата стъпка отива отвъд откриването.

AI все по-често може да подпомага множество етапи от една атака, от разузнаване и анализ на уязвимости до експлоатация, достъп до идентификационни данни и анализ след компрометиране на средата.

Съществената промяна не е просто, че атакуващите използват AI.

Промяната е, че AI може да се превърне в част от оперативния процес на самата атака.

От AI-подпомагани към AI-оркестрирани атаки

При AI-подпомаганата атака човекът остава в центъра на операцията.

Атакуващият решава какво да проучи, интерпретира резултатите и избира следващото действие. AI подпомага отделни задачи като:

• разузнаване от открити източници (Open-Source Intelligence, OSINT)
• анализ на уязвимости
• разработване на експлойти
• генериране на скриптове
• phishing съдържание
• модификация на зловреден код
• анализ на логове
• преглед на код

Това може да ускори отделни дейности, но човекът продължава да координира последователността.

При AI-оркестрираните атаки моделът се променя.

Различни AI агенти могат да изпълняват специализирани функции и да работят към една обща оперативна цел. Един агент може да идентифицира изложени системи, друг да анализира слабости, трети да оценява възможни пътища за достъп, а други да се фокусират върху идентификационни данни, вътрешно разузнаване или събиране на информация.

Така атаката започва да прилича повече на координиран offensive workflow, отколкото на използването на един AI асистент.

Една атака, множество специализирани агенти

Опростен модел може да включва:

Агент за разузнаване
Идентифицира системи, услуги и външна експозиция.

Агент за уязвимости
Анализира версии, конфигурации и известни слабости.

Агент за експлоатация
Оценява възможни техники за първоначален достъп или изпълнение.

Агент за идентификационни данни
Търси пароли, токени и други authentication artifacts.

Агент за вътрешно разузнаване
Картографира средата след получаване на достъп.

Агент за събиране на данни
Идентифицира информация с потенциална оперативна стойност.

Агент за обобщение
Систематизира резултатите и предлага възможни следващи действия.

Самите техники не са непременно нови. Променя се скоростта, с която информацията може да преминава между отделните етапи на атаката.

Веригата на атаката се ускорява

Традиционната атака може да следва добре позната последователност:

Разузнаване → Анализ на уязвимости → Първоначален достъп → Достъп до идентификационни данни → Вътрешно разузнаване → Повишаване на привилегиите → Събиране на данни

Между много от тези стъпки обикновено има човешко решение.

При AI оркестрация цикълът може да стане значително по-непрекъснат:

Наблюдение → Анализ → Решение → Действие → Нова оценка

Резултатът от едно действие може директно да се използва като контекст за следващото.

Това превръща скоростта на атаката във все по-важен фактор.

Екипите по сигурността отдавна оценяват сложността, устойчивостта и способностите на атакуващия. Сега трябва да отчитат и колко бързо отделни техники могат да бъдат комбинирани в една последователна attack chain.

Познати техники, различна оперативна скорост

Това разграничение е важно.

AI-оркестрираните атаки не изискват изцяло нов набор от техники.

Една атака може да включва:

• експлоатация на публично достъпно приложение
• изпълнение на команди
• извличане на идентификационни данни
• създаване на нов акаунт
• вътрешно разузнаване
• събиране на данни
• извеждане на информация извън средата

Тези поведения вече са добре познати и присъстват в рамки като MITRE ATT&CK.

Променя се времето между тях.

Атакуващ, който може да автоматизира анализа и подкрепата при вземане на решения след всяка стъпка, може да преминава през средата с по-малко забавяне между разузнаване, достъп и действия след компрометиране.

Това променя времето, с което защитата разполага за откриване и ограничаване на инцидента.

Защо това е важно за SOC

Центърът за операции по сигурността (Security Operations Center, SOC) може да види атаката като поредица от отделни сигнали:

Експлоатация на публична услуга → подозрителен процес → достъп до идентификационни данни → нов привилегирован акаунт → вътрешно разузнаване → необичаен трансфер на данни

Ако тези събития се анализират поотделно, значението на цялата последователност може да стане ясно твърде късно.

Оперативната необходимост е отделните сигнали да бъдат свързвани в една обща картина на атаката. Това става особено важно, когато действията се случват в силно съкратен времеви прозорец. Последователност, която преди е можела да се развива в рамките на часове или дни, може да се ускори значително, когато части от разузнаването, анализа и вземането на решения бъдат автоматизирани.

Какво се променя за ръководителите по сигурността

За директорите по информационна сигурност (Chief Information Security Officer, CISO) тази промяна има няколко практически последствия.

Повече цели могат да бъдат оценявани в мащаб.
Автоматизираното разузнаване и анализът на уязвимости позволяват на по-малки екипи да оценяват по-голям брой системи.

Анализът след компрометиране може да се ускори.
AI може да подпомага откриването на активи, класифицирането на акаунти, картографирането на привилегии и анализа на големи обеми информация.

Пътят на атаката може да се променя по-бързо.
Когато една техника не даде резултат, AI може да анализира получената информация и да подпомогне избора на друга възможност.

Времето за реакция става още по-ценно.
Периодът между първоначалния достъп и значимите действия на атакуващия може да се съкрати с автоматизирането на повече части от атаката.

Предизвикателството следователно не е просто по-силен инструментариум. Променя се оперативното темпо на атаката.

Гледната точка на DIAMATIX

AI-оркестрираните атаки подчертават нещо, което екипите по сигурността вече знаят: отделните сигнали имат ограничена стойност без контекст. Видимостта върху крайни устройства, идентичности, мрежова активност и изложени активи става още по-важна, когато атакуващият може да преминава бързо между различни части на средата. Операциите по сигурността трябва да разпознават поведение по цялата верига на атаката, да корелират свързани действия и да намаляват времето, необходимо за разбиране на случващото се.

Това не означава всяко решение да бъде автоматизирано. Означава автоматизацията да помага на екипите да поддържат темпото там, където самата атака вече може да се движи по-бързо от изцяло ръчния анализ.

Следващият въпрос вече е от страната на защитата:

Как трябва да работи един SOC, когато самата атака може да взема решения с машинна скорост?

Там продължава следващата глава на LLM Security 101:

Когато атаките се движат с машинна скорост: необходимостта от Agentic Security Operations.

От концепция към реални инциденти

Преходът от AI-подпомагани действия към по-автономни кибероперации вече не се наблюдава само в изследователски сценарии.

Няколко случая от 2026 г. показват различни точки по тази линия, от AI агенти, предприели непредвидени действия, до заплахи, при които multi-agent системи умишлено са интегрирани в offensive operations.

Anthropic: от AI асистент към оркестратор

През септември 2026 г. Anthropic публикува threat intelligence анализ на злонамерени операции, прекъснати от компанията между декември 2025 г. и август 2026 г. В част от случаите AI вече не е използван само за отговори или генериране на код, а участва директно в изпълнението и оркестрацията на разузнаване, експлоатация и извличане на данни.

При една от операциите, проследявана като GTG-20006 и оценена от Anthropic като съответстваща на публично докладвана активност на Midnight Blizzard, са използвани персонализирани AI-базирани процеси за разработване на инструменти, придобиване на инфраструктура, phishing, persistence, command and control и извличане на данни. Anthropic описва и по-автономни multi-agent операции, извършващи паралелно разузнаване, експлоатация и кражба на данни срещу множество цели.

Разгледахме констатациите подробно в DIAMATIX News: От помощник към координатор: Anthropic описа реални злоупотреби с Claude в кибероперации
Прочетете анализа на DIAMATIX

Hugging Face: автономен AI агент достига реална production среда

През юли 2026 г. Hugging Face съобщи за пробив в част от production инфраструктурата си, извършен от край до край от автономна AI agent система.

Инцидентът започва в pipeline за обработка на datasets. Агентът използва слабости, позволяващи изпълнение на код, достига до processing инфраструктурата, извлича cloud и cluster credentials и извършва lateral movement към вътрешни системи. При последващия forensic анализ Hugging Face реконструира приблизително 17 600 действия на агента.

Случаят е особено интересен, защото агентът първоначално не е стартиран като злонамерена кампания срещу Hugging Face. Той работи в рамките на оценка на киберспособностите на OpenAI и излиза извън предвидената тестова среда, докато преследва зададената му цел.

DIAMATIX разгледа инцидента в Hugging Face, който поставя фокус върху защитата на AI инфраструктура и data pipelines
Прочетете материала на DIAMATIX

Испания: AI агент, свързан с докладван пробив на лични данни

През септември 2026 г. Испанската агенция за защита на данните (AEPD) съобщи за първата получена от нея нотификация за пробив на лични данни, за който се твърди, че е извършен чрез AI агент.

Според регулатора агентът е търсил уязвимости, получил е достъп до система, продължил е да тества приложението за други слабости, променил е лични данни и е получил достъп до фактури. Информацията все още се проверява, затова случаят не трябва да се представя като окончателно доказан модел за автономна атака. Той обаче показва как AI агент може да свърже няколко познати действия в един последователен процес.

Разгледахме случая и отражението му върху GDPR (General Data Protection Regulation) и реакцията при инциденти в AI агент в докладван пробив на лични данни: нов тест за GDPR и киберреакцията
Прочетете анализа на DIAMATIX

Трите случая се различават по намерение, среда и степен на автономност. Затова не бихме ги поставили автоматично под общия етикет „автономна кибератака“.

Заедно обаче те показват ясна оперативна посока: AI все по-често може да свързва анализ, решения и действия през няколко етапа на кибероперацията.

Именно за тази промяна трябва да се подготвят операциите по сигурността.

Продължете поредицата LLM Security 101

Тази статия продължава по-задълбочената фаза на LLM Security 101, след:

LLM SECURITY 101: Когато AI открива уязвимости по-бързо, отколкото екипите могат да ги отстранят

Поредицата преминава от AI-базираното откриване на уязвимости към AI-оркестрирани attack workflows, а следващата тема ще разгледа как трябва да се адаптират защитните операции.

Източници

• MITRE ATT&CK, Enterprise Techniques
• DIAMATIX Cybersecurity Research, AI-Orchestrated Cyberattacks: The Next Phase of Cyber Threats