Между предупреждениями и регулированием: встреча Трампа возобновляет борьбу за безопасность ИИ

Спор о безопасности искусственного интеллекта вновь вышел на первый план после встречи президента США Дональда Трампа с рядом ведущих руководителей технологических компаний и разработчиков ИИ в Белом доме, в то время как опасения по поводу рисков, создаваемых передовыми моделями, остаются предметом широких дискуссий.

Во вторник Трамп принял у себя топ-менеджеров таких компаний, как Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других. Это произошло спустя несколько недель национальных дебатов о безопасности ИИ, сопровождавшихся предупреждениями со стороны ведущих исследователей и отраслевых руководителей о потенциальных угрозах, исходящих от самых мощных моделей.

В то время как опасения, высказанные, в частности, генеральным директором Anthropic Дарио Амодеи, подтолкнули многих политиков и экспертов отрасли к требованиям государственного регулирования, Трамп решительно выступил против этих инициатив, назвав страхи вокруг ИИ «обманом».

В ходе встречи руководители технологических компаний подписали двухстраничный документ под названием «Соглашение Белого дома по сверхинтеллекту: совместное обязательство по граничным ответственностям», который Трамп опубликовал на своей странице в социальной сети Truth Social.

Документ гласит, что участвующие компании считают, что «каждая компания несет ответственность за безопасную разработку своих технологий таким образом, чтобы вызывать доверие у клиентов и общественности».

Брэдли Таск, генеральный директор Task Ventures, отметил, что некоторые из этих руководителей всего две недели назад призывали к регулированию отрасли. По его мнению, цель таких призывов — создание правил, обеспечивающих равные условия для всех компаний.

Документ предусматривает четыре основных шага: создание «надежной» системы внутреннего мониторинга моделей, формирование внутренней команды для обеспечения работы контрольных механизмов, сотрудничество с внешними аудиторами или оценщиками и назначение независимого комитета совета директоров для надзора за внутренней командой.

Последний абзац документа указывает на то, что со временем эти шаги могут быть закреплены законодательно или нормативно. Когда Трамп за пределами Белого дома ответил на вопрос, являются ли правила обязательными, он сказал, что они «обязательны морально».

Трамп продвигает соглашение
Встреча не ограничилась только соглашением о безопасности ИИ. Отдельно Трамп заявил, что подписал документ, якобы официально переименовывающий «искусственный интеллект» в «сверхинтеллект». Это попытка навязать изменение терминологии после опроса в социальных сетях на предыдущей неделе.

После встречи ряд руководителей технологических компаний выразил поддержку усилиям, возглавляемым Трампом.

Марк Цукерберг, генеральный директор Meta, заявил, что соглашение направлено на то, чтобы «дать американскому народу и нашим клиентам уверенность в том, что технологии работают так, как мы задумывали».

Цукерберг добавил, что соглашение — это не единственное действие отрасли, а лишь начало и консенсус, к которому может прийти весь сектор.

Цукерберг, вместе с Дженсеном Хуангом, генеральным директором Nvidia, придерживался более близкого к саморегулированию подхода по сравнению с Дарио Амодеи (Anthropic) и Сэмом Альтманом (OpenAI).

Амодеи после подписания заявил, что если соглашение будет правильно реализовано и работа будет вестись совместно с президентом и всеми участниками, то «мы можем победить безопасно».

Сундар Пичаи, генеральный директор Alphabet, назвал встречу «исторической и крайне важной».

Рост призывов к регулированию
Вместе с тем, на фоне растущих опасений, связанных с нарушениями безопасности, и изменения общественного мнения об ИИ-компаниях в преддверии промежуточных выборов в ноябре, ожидается усиление призывов к регулированию.

Национальный опрос, проведенный компанией Verasight в сентябре, показал, что 63% респондентов считают, что развитие ИИ должно замедлиться, тогда как лишь 5% выступают за его ускорение.

Во вторник сенатор Марк Уорнер, демократ от штата Вирджиния, сообщил, что внес законопроект, обязывающий проводить «строгие тесты и оценки» новейших технологий ИИ, а также усиливать меры безопасности и требования к отчетности перед развертыванием самых мощных моделей.

Уорнер добавил, что компании, разрабатывающие самые мощные системы ИИ, сами предупреждают, что технология развивается быстрее, чем защитные меры. Он считает, что переименование ИИ и требование к компаниям самостоятельно регулировать свою деятельность не устраняют риски, связанные с постоянно развивающимися системами.