Замедление разработки передовых моделей искусственного интеллекта: какие главные препятствия?

Компании "Anthropic" (Антропик) и "OpenAI" (Опен Ай) сталкиваются с трудной дилеммой между призывами к замедлению развития наиболее передовых систем искусственного интеллекта и давлением со стороны технологического сектора, финансовых рынков и администрации президента США Дональда Трампа, которое может привести к отказу от значительного замедления этого процесса, как сообщается в Bloomberg.

Обе компании, разрабатывающие одни из самых мощных систем искусственного интеллекта в мире, объявили о новых мерах по усилению безопасности и пониманию рисков после серии инцидентов, вызвавших вопросы о способности передовых систем действовать независимо и выходить за рамки установленных контрольных механизмов.

В длинной статье, опубликованной в субботу, генеральный директор "Anthropic" Дарийо Амуди призвал замедлить темпы разработки наиболее передовых систем, предупредив, что искусственный интеллект может выйти за пределы человеческого контроля и привести к катастрофическим последствиям.

Его призыв получил поддержку генерального директора "OpenAI" Сэма Алтмана и генерального директора компании "xAI" Илона Маска.

Однако Амуди подчеркнул, что под «замедлением темпов» не подразумевается полная остановка обучения или технологического прогресса, а лишь предоставление достаточного времени для обеспечения мер безопасности и оценки, чтобы они могли соответствовать развитию возможностей моделей.

Опасения на рынках

Любые потенциальные препятствия в развитии передовых систем искусственного интеллекта вызывают обеспокоенность среди инвесторов, которые рассчитывали на продолжение бурного роста в этом секторе, а также на расходы в сотни миллиардов долларов на центры обработки данных, электронные чипы и инфраструктуру, необходимую для запуска новых моделей.

Эти опасения отразились на акциях компаний, связанных с искусственным интеллектом: акции "SK Hynix" и "Samsung" в Южной Корее снизились, а акции группы "SoftBank", одного из ключевых инвесторов "OpenAI", упали до 13%, а другие компании, связанные с цепочками поставок ИИ, также столкнулись с давлением.

Аналитики считают, что любое значительное сокращение расходов на исследования и разработки, найм или капитальные затраты в "OpenAI" и "Anthropic" может повлиять на акции технологических компаний и финансовые рынки, учитывая роль этих компаний в стимулировании спроса на чипы, облачные вычисления и центры обработки данных.

Трамп против замедления гонки

Любые масштабные действия по замедлению развития искусственного интеллекта могут встретить сопротивление со стороны администрации Трампа, которая сделала ускорение технологического развития и сохранение превосходства США над Китаем частью своей экономической и безопасностной повестки дня.

Трамп заявил журналистам во время турнира по гольфу в Ирландии в воскресенье, что США опережают Китай в области искусственного интеллекта и хочет сохранить это преимущество, добавив, что можно установить «контрольные механизмы», но он осудил силы, преувеличивающие риски технологии.

В ответ Алтман в посте на платформе X заявил, что «замедление темпов» не означает остановку, а основная потребность в государственной поддержке — это международная координация, считая, что компаниям следует делать всё возможное самостоятельно для усиления безопасности.

На прошлой неделе усилилась тревога по поводу максимальных рисков искусственного интеллекта после ухода бывшего исследователя "Anthropic" Джекоба Коксона, который обвинил компании в ИИ в «игре с нашей жизнью» в гонке за создание более продвинутых систем.

Его уход вызвал более широкий дискуссионный процесс внутри отрасли, особенно на фоне предупреждений о том, что быстрое развитие систем может привести к потере контроля. Эти опасения усилились после серии инцидентов, когда компании ИИ раскрыли способность своих программ выполнять электронные операции автономно.

"OpenAI" ранее сообщила об инциденте, когда системы, находившиеся в тестировании, получили доступ к онлайн-сервису, несмотря на установленные ограничения. Кроме того, в июле системы этой компании были замешаны в взломе платформы "Hugging Face" во время тестирования безопасности.

"Anthropic" и "Meta" также сообщили об инцидентах, когда системы искусственного интеллекта, принадлежащие им, провели самостоятельные кибератаки.

Опасения начали проникать и в Конгресс США, где законодатели рассматривали идеи, включая введение новых контрольных механизмов и создание механизмов, позволяющих останавливать системы ИИ, хотя шансы на принятие широкого законодательства остаются низкими из-за политических разногласий и близости выборов в средней части срока.

Независимый контроль

Амуди предлагает предоставить независимым органам по оценке безопасности возможность доступа к компаниям по ИИ на уровне, аналогичном уровню сотрудников, для проверки безопасности моделей перед их выпуском.

Он заявил, что "Anthropic" позволит независимым оценщикам посетить компанию и проверить её новые системы; идея, которую Алтман поддерживает для применения в "OpenAI", а Маск назвал проверкой коллегами среди разработчиков ИИ шагом, заслуживающим реализации.

Амуди также призвал к активному участию государства в надзоре за передовыми системами ИИ, считая, что регулирование даёт обществу и избранным должностным лицам возможность определить границы, которые могут быть достигнуты частными компаниями.

В качестве признака влияния опасений по безопасности на решения самих компаний Алтман сообщил, что "OpenAI" не будет проводить IPO до 2026 года, несмотря на предыдущие слухи о возможности публичного размещения акций в этом году.

Он пояснил, что проведение IPO в настоящее время было бы «неподходящим», отметив, что сначала необходимо решить вопросы безопасности и согласовать модели. Он заявил, что не готов рисковать вероятностью в 10% того, что технология приведёт к гибели людей к концу десятилетия.

С другой стороны, "Anthropic" по-прежнему планирует публичное размещение акций, и появляются сообщения, что компания выбрала фондовый рынок NASDAQ для предполагаемого листинга, что означает, что сохранение конкурентной борьбы между компаниями ИИ остаётся важным фактором в их инвестиционных и коммерческих решениях.

Усложняется достижение широкого замедления из-за продолжающейся конкуренции с китайскими компаниями, которые продолжают выпускать новые модели и сужать разрыв с американскими компаниями.

Должностные лица и эксперты отрасли считают, что одностороннее замедление со стороны американских компаний может дать Китаю возможность опередить, что делает призывы к безопасности напрямую связанными с геополитической конкуренцией.

"OpenAI" и "Anthropic" оказались перед сложной дилеммой, требующей усиления мер безопасности в соответствии с растущими возможностями искусственного интеллекта, одновременно сохраняя темпы разработки, инвестиций и превосходства в гонке, которую Вашингтон считает частью стратегической конкуренции с Китаем.