Anthropic предложила Конгрессу США законопроект о регулировании ИИ

Компания Anthropic, создавшая ассистента «Claude», подтвердила в пятницу факт обсуждения с американскими законодателями проекта закона, направленного на регулирование сферы искусственного интеллекта. Эта инициатива появляется в условиях отсутствия федеральных норм, учитывающих риски новых технологий.

Согласно черновику, опубликованному изданием Politico, документ предусматривает возможность для Вашингтона запрещать запуск или использование любых моделей ИИ при наличии угрозы гибели или получения тяжелых травм более чем 50 людьми, либо причинения ущерба свыше одного миллиарда долларов. Такие меры могут применяться только после получения судебного разрешения.

Механизмы контроля и прозрачности

Представитель компании заявил агентству France-Presse, что предложение наделяет федеральное правительство полномочиями предотвращать или останавливать опасное развертывание наиболее мощных систем искусственного интеллекта. Кроме того, проект обязывает ведущих разработчиков тестировать свои передовые модели, обеспечивать публичную прозрачность результатов проверок, проходить независимую оценку и поддерживать строгие протоколы безопасности.

В настоящее время политика в области ИИ в США опирается преимущественно на добровольные обязательства корпораций и исполнительные приказы, призванные стимулировать развитие сектора, который технологические лидеры считают драйвером экономики. Конгресс, расколотый политически и испытывающий давление со стороны крупных техкомпаний, до сих пор не принял федерального закона об ИИ. Сейчас он находится на каникулах вплоть до промежуточных выборов в следующем месяце.

Безопасность и административный контекст

Вопросы безопасности вышли на первый план после недавних инцидентов, связанных с действиями «агентов ИИ» — программных продуктов, построенных на базе моделей и способных автономно выполнять последовательности задач. Ранее администрация Дональда Трампа запретила Anthropic сотрудничество с Министерством обороны США в феврале, что вынудило компанию приостановить работу самых продвинутых моделей на три недели под давлением властей.

Генеральный директор Anthropic Дарио Амодеи в прошлом месяце призвал отрасль замедлить темпы разработки, выражая опасения, что группа агентов искусственного интеллекта может взять под контроль «весь интернет» в течение 6–12 месяцев. Трамп же назвал подобные призывы к торможению прогресса проявлением «негативных сил».

Законопроект также предполагает превалирование федеральных норм над некоторыми законами штатов, включая действующие в Калифорнии. В июне Anthropic заявляла, что при отсутствии сильного федерального закона штаты должны сохранять полную власть над собственным законодательством.

Чарли Поллок из исследовательского центра «Института права и искусственного интеллекта» оценил предложение как «весьма разумное» и превосходящее инициативы других ведущих лабораторий ИИ. Однако в публикации на платформе X он отметил, что данный вариант выглядит «слабее» законопроекта Frontier, внесенного в Палату представителей этим летом.