Белый дом вводит контроль за моделями ИИ из-за угроз безопасности

Стремительное развитие передовых систем искусственного интеллекта вызвало тревогу в Белом доме. Вице-президент США Джей Ди Вэнс предупредил, что новые технологии, способные самостоятельно находить программные уязвимости, могут угрожать жизненно важной инфраструктуре страны. Как сообщает The Wall Street Journal, во время телефонного разговора в апреле с руководителями ведущих компаний в сфере ИИ Вэнс выразил обеспокоенность моделью «Mythos», разрабатываемой компанией Anthropic.

По словам Вэнса, возможности этой модели могут позволить проводить кибератаки на небольшие банки, больницы и водонапорные станции, которые местные власти не в состоянии защитить. В разговоре участвовали такие лидеры технологической отрасли, как Сэм Альтман, Дарио Амодеи, Илон Маск, Сундар Пичаи и Сатья Наделла.

Как пишет Axios, Белый дом готовит новые директивы, которые могут позволить государственным ведомствам обойти действующую классификацию рисков цепочки поставок для Anthropic. Это даст возможность внедрять передовые модели компании, включая «Mythos», в государственные системы. По данным источников издания, опасения привели к дискуссиям внутри администрации о выпуске нового исполнительного указа, который введет официальный механизм контроля за наиболее продвинутыми моделями ИИ. Это стало бы заметным отходом от прежнего курса, делавшего упор на ускорение инноваций и конкуренцию с Китаем.

Чиновники Белого дома попросили Anthropic повременить с расширением доступа к «Mythos» для организаций, управляющих чувствительной цифровой инфраструктурой. Руководить правительственным ответом на эти угрозы поручено директору национальной кибербезопасности Шону Кернкроссу. По данным The Information, Anthropic обязалась потратить 200 миллиардов долларов на услуги Google Cloud в течение пяти лет в рамках недавно заключенного соглашения.

Новые меры вызвали раскол внутри администрации. Некоторые чиновники и помощники в Конгрессе опасаются, что предложенные шаги станут отступлением от прежней политики открытости в отношении ИИ. Сторонники ужесточения контроля, напротив, настаивают, что последние разработки требуют более строгих правил. Инвестор и советник Белого дома Дэвид Сакс выступил в защиту менее ограничительного подхода, заявив, что риски можно сдержать, если компании будут использовать ИИ для укрепления цифровой безопасности, а не для угроз.

Глава аппарата Белого дома Сьюзи Уайлс подтвердила, что администрация стремится к балансу между инновациями и контролем, подчеркнув продолжение поддержки стратегии «Америка прежде всего» для безопасного развития передовых технологий. Крупные компании, такие как OpenAI, уже предпринимают предупредительные шаги. Фирма заявила, что консультировалась с администрацией США перед запуском своей продвинутой модели безопасности «GPT-5.5-Cyber», обладающей возможностями, схожими с «Mythos», и ограничивает к ней доступ.

Эти события происходят на фоне подготовки Вашингтона и Пекина к обсуждению рисков, связанных с ИИ, на предстоящем саммите в Китае, где встретятся президент США Дональд Трамп и председатель КНР Си Цзиньпин. В еще одном признаке растущей обеспокоенности, глава Национального экономического совета Белого дома Кевин Хассет сравнил возможный механизм контроля за моделями ИИ с процедурой одобрения лекарств Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA). Это вызвало критику со стороны групп, выступающих за свободу рынка, которые считают, что такие ограничения могут замедлить рост американского сектора в условиях глобальной конкуренции.