Бесплатный ИИ взломал «ТикТок» — что произошло?

В ходе эксперимента компания по кибербезопасности-стартапа «DepthFirst» выяснила, что бесплатные и открытые источники китайских моделей искусственного интеллекта можно использовать для поиска и эксплуатации программных уязвимостей.

В видео, которое было показано и опубликовано газетой «Вашингтон пост», один из сотрудников компании «DepthFirst» смог получить удалённый доступ к камере и фотоальбому смартфона, который использовался для просмотра приложения «ТикТок».

Это произошло благодаря эксплуатации цепочки программных уязвимостей внутри популярного приложения. Эта атака была проведена исключительно в экспериментальных целях и не направлена на реальных пользователей.

Система искусственного интеллекта, разработанная компанией, обнаружила уязвимости в открытых исходных кодах, используемых «ТикТок», до того, как компания получила уведомление о проблеме, подтвердив её и устранив, согласно сообщениям, ознакомленным с ними газетой.

Компания «DepthFirst» использует эту систему для помощи своим клиентам в укреплении защиты, и глава компании Касим Михтани заявил, что они обнаружили десятки критических уязвимостей в программном обеспечении, используемом миллионами людей.

Эти события происходят в то время, когда американские компании, такие как «Anthropic» и «OpenAI», ограничивают возможности своих моделей «Claude» и «ChatGPT» в сфере кибербезопасности, позволяя полное использование только проверенным пользователям и компаниям. В противоположность этому, китайские модели, такие как «DeepSeek» и «Z.ai", доступны практически каждому для бесплатной загрузки и модификации.

Джон Холткост, старший аналитик группы по разведке угроз компании «Google», отметил, что широкое распространение этой технологии делает более способными продвинутых хакеров и снижает порог для людей с ограниченными навыками, чтобы совершать киберпреступления.

Компания «Unit 42», дочерняя структура «Palo Alto Networks», сообщила, что использовала инструменты, основанные на искусственном интеллекте, для анализа около 4000 проектов с открытым исходным кодом, и обнаружила более 14 000 подтвержденных уязвимостей, более 99% из которых ранее не были сообщены.

Они также зафиксировали атаки, в результате которых злоумышленники смогли использовать более чем 50 техник для взлома европейской программной компании всего за 10 часов — процесс, который обычно занял бы более 10 дней.