Искусственный интеллект с силой «ядерной бомбы»: новый вид оружия, который сбивает с толку Пентагон

США перешли к новой и запутанной стадии гонки вооружений с использованием искусственного интеллекта, когда передовые модели помощников превратились в потенциальные возможности для взлома сетей противника и тестирования военных систем. Американские власти обеспокоены тем, что Китай может уже через несколько месяцев обладать аналогичными возможностями.

По данным «Нью-Йорк Таймс», этот переход вызвал замешательство внутри американских органов национальной безопасности, которое ярко проявилось в конфликте между Пентагоном и компанией Anthropic, когда стремление Минобороны изолировать технологии компании от своих систем столкнулось с необходимостью использовать передовую модель ИИ, которая могла бы стать решающим оружием в кибервойне.

Противоречивые приказы

По сообщению издания, старшие военные контрактные исполнители получили в середине июля директиву от ВВС о необходимости устранить к 1 сентября продукты Anthropic, используемые в программах оружия и системах управления, под угрозой риска потерять контракты с Пентагоном.

Однако спустя примерно месяц пришла обратная команда — приказать задержать действия и не удалять продукты компании в настоящее время, что отражает состояние замешательства, охватившее Вашингтон в связи с ускоряющимся развитием искусственного интеллекта.

Кризис возник из публичного разногласия между министром обороны Битом Хиггесом и генеральным директором Anthropic Дарио Амуди по вопросу ограничений на использование технологий компании в военных целях.

Амуди потребовал гарантий того, что продукты его компании не будут использоваться для внутреннего наблюдения за гражданами США или создания полностью автономных оружий без человеческого контроля, однако Пентагон отверг эти условия и классифицировал компанию как «угрозу цепочке поставок», после чего запретил использование её продуктов в военных целях.

Одностороннее разоружение

Ирония заключалась в том, что компания Anthropic представила модель «Mythos», предназначенную для выявления и эксплуатации программных уязвимостей, что поставило военное ведомство перед непредвиденной дилеммой: США запретили себе использовать технологию, которая могла бы стать одним из самых мощных новых кибероружий.

По словам бывшего американского чиновника, отказ от «Mythos» был бы равнозначен «одностороннему разоружению» из-за её потенциальных возможностей в атакующих кибероперациях.

Несмотря на запрет Пентагона на использование «Claude» для анализа разведданных и написания кода, агентство национальной безопасности (NSA) получило исключение на экспериментальное использование версий «Mythos» для проверки защиты военных сетей США и поиска потенциальных уязвимостей в сетях противников, включая Китай, Россию, Северную Корею и Иран.

Китай всего на несколько месяцев

Беспокойство выходит за рамки конфликта с Anthropic: американские эксперты считают, что Китай может отставать от США всего на шесть месяцев или меньше в разработке наиболее продвинутых моделей искусственного интеллекта, несмотря на сохраняющийся разрыв в производстве передовых полупроводников.

Вашингтон опасается, что такие возможности дадут Пекину более мощные инструменты для взлома сетей связи, водоснабжения и электроснабжения США, особенно после атак «Volt Typhoon» и «Salt Typhoon». Бывшие должностные лица предупреждают, что искусственный интеллект способен беспрецедентно усиливать возможности кибератак.

Уровень тревоги достиг такой степени, что директор ЦРУ Джон Ратклифф сравнил возможности искусственного интеллекта с «цифровыми ядерными оружием». При этом американские учреждения уже вложили миллиарды долларов в внедрение этой технологии в разработку оружия, тестирование военных сетей и проверку устойчивости систем, связанных с ядерным оружием, к попыткам взлома с помощью ИИ.