Anthropic предложила критерии запрета ИИ в США

Разработчик ассистента «Claude» компания Anthropic инициировала создание единого федерального регламента для регулирования передовых систем искусственного интеллекта на территории Соединенных Штатов. Согласно данным издания Politico, инициатива предполагает внесение законопроекта, который четко очерчивает правовые рамки вмешательства государства в процесс запуска или эксплуатации нейросетевых моделей. Ключевой особенностью документа является установление высоких пороговых значений для введения запретительных мер со стороны регуляторов.

Пороговые значения для госвмешательства

Проект предусматривает, что административные органы лишаются права блокировать работу алгоритма, если его деятельность не создает непосредственной угрозы причинения убытков, превышающих один миллиард долларов. Альтернативным основанием для вмешательства служит риск гибели или получения тяжелых травм более чем пятьюдесятью людьми. Подобная конструкция направлена на формирование прозрачных стандартов безопасности при одновременном снижении уровня государственного давления, способного затормозить технологическое развитие отрасли.

Сценарии риска и процедуры оценки

В перечень ситуаций, требующих реакции властей, включены случаи потенциального использования моделей для производства биологического оружия, выхода системы из-под контроля разработчиков или применения ее для кибератак. Законопроектом закрепляется обязанность проводить регулярные проверки безопасности силами независимых экспертов. Компании должны публиковать отчеты о рисках, разрабатывать планы защиты и обеспечивать безопасность сотрудников, сообщающих об инцидентах, а также оперативно докладывать о серьезных авариях.

Механизм реагирования предполагает, что профильные ведомства обязаны уведомить Министерство торговли США в течение 72 часов после завершения оценки, если выявлен соответствующий критериям прямой риск. На основании этого уведомления министерство получает право обратиться к федеральному судье в Вашингтоне с требованием приостановить функционирование спорной модели.

Федеральная унификация против штатных норм

Инициатива появляется на фоне растущей обеспокоенности способностью автономных агентов сканировать веб-ресурсы, находить уязвимости и эксплуатировать их. Anthropic стремится совместить контроль над опасностями ИИ с жестким ограничением полномочий правительства по блокировке новых продуктов. Однако предложенные пороги ущерба вызывают дискуссии об их чрезмерной высоте и необходимости превентивного вмешательства до наступления катастрофических последствий, учитывая, что некоторые риски остаются значительными даже без достижения указанных финансовых или человеческих потерь.

Дополнительно документ направлен на гармонизацию правил на федеральном уровне и сокращение ряда требований, установленных законодательством отдельных штатов. Речь идет об обязательствах по раскрытию информации о рисках, проведении независимой экспертизы и отчетности об инцидентах. Данная мера может спровоцировать конфликты относительно границ компетенции центральных властей по сравнению с региональными регуляторами.