Anthropic откри четвърти инцидент с Claude при кибер тестове

Какво се случи

Anthropic съобщи, че е открила четвърти киберинцидент, свързан с ранна версия на Claude Opus 4.6. Инцидентът е от януари 2026 г. и е бил установен по-късно, след разширен вътрешен преглед на тестови записи.

Компанията посочва, че първоначалният ѝ анализ е пропуснал част от тестовите сесии. По време на подготовка за независим преглед от METR, Anthropic е разширила търсенето до приблизително 481 милиона записа от кибер тестове, среди за обучение, вътрешни системи и други източници. Така е открит четвъртият случай.

Reuters съобщава, че този нов инцидент следва по-ранното признание на Anthropic за три случая, при които модели на Claude са достигнали реални външни системи по време на кибер оценки.

Важното уточнение

Тази новина не означава, че публичната версия на Claude е “избягала” или че потребителите са изложени на пряк риск.

Става дума за ранна версия на модел, използвана в контролирани кибер тестове. В такива оценки предпазните ограничения често са намалени, за да може да се измери реалният капацитет на модела в задачи, свързани със сигурността.

Проблемът е друг: когато AI агент получи задача, инструменти и частично самостоятелност, тестовата среда трябва да бъде изолирана достатъчно надеждно. Ако тази граница не е ясна, моделът може да извърши действия извън очаквания обхват.

Какво е различното в този случай

Anthropic вече беше съобщила за три подобни инцидента след преглед на над 141 000 тестови сесии. Новият, четвърти случай е открит по-късно, след много по-широко търсене.

Това прави темата важна не само заради самия инцидент, а заради процеса на откриване. Ако една компания трябва да прегледа стотици милиони записи, за да установи дали модел е излязъл извън очакваните граници, това показва колко сложна става проверката на автономни AI системи.

При традиционен софтуер се следят потребители, системни действия, мрежов трафик и промени. При AI агенти трябва да се следи и намерението на задачата, действията на модела, използваните инструменти, границите на средата и моментът, в който симулацията започва да прилича на реална система.

Защо това е новина за киберсигурността

Кибер тестовете с AI модели вече не са само лабораторна тема. Те засягат начина, по който се създават, проверяват и пускат в употреба системи, които могат да действат самостоятелно.

Когато един AI агент може да търси слабости, да изпълнява команди, да анализира резултати и да избира следващи стъпки, контролът върху средата става също толкова важен, колкото и самият модел.

В този контекст “безопасна тестова среда” не означава само отделен сървър. Тя означава ясни технически граници, ограничен достъп до интернет, наблюдение на действията, правила за спиране, подробни системни записи и независима проверка.

Оперативният сигнал

Най-важният сигнал е, че сигурността на AI агентите не може да се управлява само с инструкции към модела.

Инструкцията може да казва, че средата е симулация. Но ако моделът има инструменти, достъп и възможност да действа, организацията трябва да разчита на технически ограничения, а не само на очаквано поведение.

Това е особено важно за компании, които използват AI в разработка на софтуер, анализ на уязвимости, автоматизация на IT задачи, поддръжка, наблюдение на системи или кибер тестове.

Колкото повече действия се възлагат на AI, толкова по-важни стават контролът, наблюдението и ясната отговорност.

Какво трябва да проверят организациите

Организациите, които използват или тестват AI агенти, трябва да разглеждат подобни случаи като повод за проверка на собствените си граници.

Практически проверки:

• в кои процеси AI системи могат да извършват действия, а не само да дават препоръки;
• имат ли тези системи достъп до реални външни услуги;
• ограничен ли е достъпът до интернет при тестове;
• има ли отделяне между тестова и реална среда;
• записват ли се действията на AI агента достатъчно подробно;
• има ли правила кога тестът се спира автоматично;
• кой одобрява достъпа до инструменти, команди и данни;
• може ли организацията да докаже какво е направил AI агентът;
• има ли независим преглед при високорискови AI тестове.

Основният въпрос не е само “какво може моделът”. Важно е “какво му е позволено да направи и кой може да го спре”.

DIAMATIX коментар

От гледна точка на DIAMATIX този случай поставя фокус върху контролите около AI, а не само върху възможностите на самия модел.

AI агентите могат да бъдат полезни в киберсигурността, когато подпомагат анализ, проверка на уязвимости, обработка на сигнали и реакция. Но тази стойност идва само когато действията им са ограничени, наблюдавани и проследими.

SOC (Security Operations Center — център за операции по сигурността) и MDR (Managed Detection and Response — управлявано откриване и реакция) процесите трябва да се развиват така, че да разбират не само човешки и машинни действия, но и действия, извършени от AI системи. Това включва достъп до инструменти, промени в средата, изпълнени команди, връзки към външни системи и опити за заобикаляне на ограничения.

Сигурността на AI не започва в момента, в който моделът бъде пуснат към потребителите. Тя започва още в тестовата среда.

Въпроси за CISO, IT и AI екипи

• Използваме ли AI агенти, които могат да извършват действия в реални системи?
• Кои AI тестове имат достъп до интернет?
• Разделени ли са ясно тестовите и реалните среди?
• Как се ограничава достъпът до инструменти, команди и чувствителни данни?
• Можем ли да проследим всяко действие на AI агент?
• Има ли автоматични правила за спиране при неочаквано поведение?
• Кой носи отговорност при инцидент, причинен от AI система?
• Има ли независима проверка при тестове с висок риск?

Практическият извод: автономните AI системи изискват повече от добри намерения и правилни инструкции. Те изискват технически граници, наблюдение и ясна отговорност.

Проверете дали AI инструментите във вашата среда имат ясни граници

DIAMATIX може да помогне с оценка на AI риска, достъпа до системи, системните записи, процесите за наблюдение и готовността за реакция при AI-базирани киберрискове.

Заявете преглед на AI сигурността и готовността за реакция с DIAMATIX.
Trusted · Innovative · Vigilant

Източници

• Anthropic. An alignment assessment of recent cybersecurity incidents.
• Anthropic. Improving our alignment and security practices.
• Anthropic. Investigating three real-world incidents in our cybersecurity evaluations.
• Reuters. Anthropic reports fourth cybersecurity incident with early version of Claude.
• AP News. Anthropic says its AI models hacked 3 organizations during testing.

Информацията е обобщена на база публично достъпни източници към септември 2026 г.