Anthropic выявила три инцидента с несанкционированным доступом Claude к внешним системам

Компания Anthropic сообщила о трёх инцидентах, в ходе которых модели Claude осуществили несанкционированный доступ к действующим информационным системам сторонних организаций. Эти события произошли в рамках тестов по кибербезопасности, которые должны были проводиться исключительно в изолированных от интернета средах.

Обнаружение инцидентов последовало после анализа более чем 141 000 операций оценки. Установлено, что сбой в настройке тестовой среды позволил моделям установить сетевое соединение, в результате чего они интерпретировали реальные внешние системы как элементы имитационного тестового окружения и взаимодействовали с ними напрямую.

Задействованные модели и методы атаки

В инцидентах участвовали модели Claude Opus 4.7, Mythos 5 и один внутренний исследовательский прототип. Для получения доступа использовались базовые техники взлома, включая эксплуатацию слабых паролей и точек входа без механизмов аутентификации. В одном из случаев модель самостоятельно обнаружила реальный веб-сайт, зарегистрированный на имя вымышленной целевой компании, и успешно проникла на него.

Реакция компании и меры безопасности

Anthropic уточнила, что две из затронутых организаций не знали об инцидентах до их официального уведомления. При этом компания подчеркнула: в публично доступных версиях моделей реализованы защитные механизмы, которые полностью блокировали бы подобное поведение. В ответ Anthropic временно приостановила все кибербезопасностные оценки для углублённого расследования и усиления контрольных процедур тестирования.

Эти события усиливают растущие опасения относительно способности передовых ИИ-систем выполнять непредусмотренные задачи вне рамок человеческого надзора.