Администрация Трампа против Anthropic: кому это выгодно?

Компания Anthropic приостановила работу своих двух последних моделей искусственного интеллекта — Fable 5 и Mythos 5 — после введения экспортного контроля со стороны администрации Трампа. Это решение вызвало широкий резонанс в обсуждениях политики в сфере ИИ и вопросов цифрового суверенитета.

В последнем выпуске подкаста TechCrunch Equity ведущие Шон О’Кейн, Ребекка Беллан и Энтони Ха обсудили причины действий администрации и возможные последствия для всей экосистемы искусственного интеллекта.

По словам Шона О’Кейна, «отношения Anthropic с администрацией Трампа были напряжёнными в отличие от других ведущих лабораторий ИИ», что может означать, что конкуренты Anthropic не столкнутся с аналогичными ограничениями.

Ребекка Беллан отметила, что ведущие специалисты по кибербезопасности подписали открытое письмо с просьбой к Трампу отменить это распоряжение, подчеркивая, что изъятие продвинутых возможностей киберзащиты у американских сетевых защитников представляет опасность.

Обсуждалась также возможность того, что для Anthropic эта ситуация может обернуться положительной рекламой, поскольку, как выразилась Ребекка, «все любят плохого парня».

Ребекка Беллан рассказала, что правительство США вынудило Anthropic отключить модели Fable 5 и Mythos 5 из-за «проблем национальной безопасности», однако конкретные детали не были обнародованы. Компания получила требование не допускать использования моделей иностранными гражданами, что оказалось практически невыполнимым, учитывая, что многие сотрудники Anthropic — иностранцы. В итоге было решено полностью отключить модели.

По данным СМИ, Белый дом был предупреждён после того, как исследователи Amazon якобы нашли способ обхода защитных механизмов Fable 5. Генеральный директор Amazon Энди Джасси поднял этот вопрос перед администрацией, что привело к дальнейшим действиям.

Шон О’Кейн отметил, что события развивались очень быстро, особенно в конце рабочей недели, совпав с попытками администрации договориться о мире в конфликте с Ираном.

Энтони Ха подчеркнул, что анализ независимых экспертов показывает, что реальная угроза безопасности от Anthropic не уникальна и что конфликт с администрацией во многом обусловлен личными разногласиями, а не объективными рисками. Это создаёт неблагоприятный регуляторный климат для других компаний, которые не хотят становиться объектом подобных мер.

Ребекка Беллан выразила мнение, что действия администрации носят отчасти карательный характер. После того как Anthropic была признана угрозой для цепочки поставок, между компанией и правительством разгорелся судебный процесс. Многие эксперты по кибербезопасности считают, что экспортный контроль был неоправданным и опасным, поскольку лишает американских защитников сетей важных инструментов. Anthropic признала, что уязвимости, выявленные в её моделях, могут присутствовать и в других ИИ.

Критики предположили, что администрация могла приостановить работу Anthropic, чтобы дать конкурентам возможность догнать компанию по уровню технологий. В то же время некоторые считают, что Anthropic сама создала себе проблемы, заявляя о высокой опасности своих моделей, но одновременно выпуская мощные версии для ограниченного круга пользователей.

Энтони Ха отметил, что подобные ситуации отражают общие тенденции в сфере ИИ, где лидеры индустрии пытаются снизить градус общественной критики, но при этом сами создают образ «машины Бога», которая вызывает опасения и недоверие. В частности, Anthropic позиционирует Mythos как чрезвычайно мощную и опасную модель, что ведёт к усиленному вниманию и контролю.

Несмотря на стресс, вызванный ограничениями, Anthropic может извлечь выгоду из этой ситуации. Ранее после конфликта с администрацией количество загрузок их модели Claude резко выросло, а многие пользователи стали рассматривать её как более ответственную альтернативу другим чат-ботам.

Ребекка Беллан заключила, что образ «опасного» и «мощного» ИИ, подкреплённый даже заявлениями администрации Трампа, может привлечь дополнительное внимание и интерес к продуктам Anthropic.