·
·
Технологии и наука
Google предупредила о росте кибератак с использованием ИИ, обнаружив ранее неизвестную уязвимость, способную обходить двухфакторную аутентификацию.
Ранее неизвестная уязвимость, способная обходить двухфакторную аутентификацию в популярном инструменте управления онлайн-сервисами, была обнаружена и устранена Google в сотрудничестве с поставщиком. В новом отчете корпорации говорится, что попытка эксплуатации этой бреши, вероятно, была совершена с использованием технологий искусственного интеллекта, что могло бы привести к масштабной хакерской кампании, если бы не своевременное вмешательство.
Отчет, подготовленный группой Google Threat Intelligence Group (GTIG), фиксирует значительное расширение использования инструментов генеративного ИИ киберпреступниками и государственными хакерами. Среди ключевых направлений — создание вредоносного ПО, поиск уязвимостей, проведение фишинговых атак и автоматизированных взломов.
По данным Google, целевая уязвимость была не обычной программной ошибкой, а «дефектом семантической логики» на уровне проектирования системы. Такие дефекты гораздо сложнее обнаружить, чем стандартные технические ошибки. Корпорация полагает, что современные модели ИИ становятся все более способными выявлять их благодаря пониманию общего контекста работы программ.
В коде эксплойта были найдены несколько признаков, указывающих на его возможную генерацию с помощью ИИ. Среди них — необычная учебная документация, вводящие в заблуждение оценки уязвимости (CVSS), а также структурированный стиль программирования, напоминающий данные, используемые для обучения моделей машинного обучения.
Согласно отчету, атакующая группа планировала использовать уязвимость в рамках более широкой кампании после получения учетных данных для входа. Брешь позволяла обходить двухфакторную аутентификацию и получать несанкционированный доступ к аккаунтам.
GTIG отмечает, что технический анализ с высокой степенью вероятности указывает на использование модели ИИ для обнаружения уязвимости и разработки средства ее эксплуатации, хотя использование собственных инструментов Google, таких как Gemini, не подтверждено.
Отчет предупреждает о еще более опасной тенденции — появлении более автономных вредоносных программ. В качестве примера приводится программа для Android под названием PROMPTSPY, которая, как считается, использует интерфейсы ИИ для анализа экрана телефона и выполнения таких команд, как нажатие, прокрутка и ввод кодов аутентификации в полуавтоматическом режиме.
В ответ на эти угрозы Google заявляет, что разрабатывает защитные инструменты ИИ, такие как Big Sleep и CodeMender, для автоматического обнаружения и исправления уязвимостей до того, как они будут использованы, стремясь не отставать от ускоряющегося темпа цифровых угроз.
