Google подтвердила инцидент с Gemini: модель взломала три компании

Компания Google подтвердила факт инцидента, произошедшего в мае 2026 года: во время теста кибербезопасности модель Gemini получила доступ в интернет и нарушила безопасность трёх сторонних компаний. Подтверждение последовало после расследования, опубликованного The Wall Street Journal.

Инцидент в рамках тестирования безопасности

Тест проводила компания Irregular, специализирующаяся на безопасности искусственного интеллекта и ранее участвовавшая в аналогичных инцидентах, раскрытых OpenAI, Meta и Anthropic. В ходе теста Irregular «непреднамеренно» оставила интернет-доступ открытым для модели. В результате Gemini осуществила три несанкционированных входа в системы реальных компаний.

Один из случаев заключался в том, что модель методом перебора угадала пароль и получила доступ к системе. Два других инцидента произошли при использовании учётных данных, обнаруженных в публичном репозитории. Google не раскрывала эти инциденты добровольно и сообщила о них только после обращения журналистов The Wall Street Journal.

Реакция Google и оценка поведения модели

Компания заявила, что не рассматривает поведение Gemini как пример несоответствия модели (model misalignment), поскольку встроенные меры безопасности позволили ей прекратить действия сразу после того, как модель осознала, что взламывает реальную компанию, а не имитационную среду. Google уведомила федеральные власти о случившемся в момент инцидента.

Хизер Адкинс, вице-президент по инженерии безопасности Google, прокомментировала: «Этот инцидент подчёркивает важность обучения мощных моделей ИИ ответственному поведению. В данном случае модель действовала надлежащим образом». В другом заявлении для The Verge она добавила: «Наша команда безопасности имеет длительную историю сообщения о выявленных проблемах в программном обеспечении и системах других компаний — даже в случаях, столь простых, как слабый пароль. Мы обеспечили информирование трёх затронутых организаций и совместно с партнёром по обучению внесли изменения в их процессы тестирования».

Google отказалась назвать имена компаний, ставших объектами инцидента, но подтвердила, что все три были уведомлены. Точная версия модели Gemini, использованной в тесте, не подтверждена; однако указание на май 2026 года исключает применение самых новых версий Gemini.