Перед саммитом Трампа и Си: как искусственный интеллект стал новой «полем боя»?

Растет разногласие между Соединенными Штатами и Китаем по вопросу управления быстро нарастающими рисками искусственного интеллекта, в то время как эксперты с обеих сторон предостерегают, что конкуренция между Вашингтоном и Пекином мешает достижению общей основы для обеспечения безопасности.

Перед ожидаемым саммитом, который будет тщательно отслеживаться на предмет любых признаков способности правительств к сотрудничеству по управлению рисками искусственного интеллекта, в следующую неделю, между президентом США Дональдом Трампом и китайским лидером Си Цзиньпином, китайские исследовательские центры и технологические компании провели неофициальные переговоры с коллегами из США.

Сложность управления рисками

Участники переговоров сообщили о наличии общих опасений у обеих сторон по поводу рисков, связанных с чрезвычайно мощными системами искусственного интеллекта, которые могут выйти из-под контроля.

Однако они отметили, что бурное технологическое соперничество между Вашингтоном и Пекином значительно усложняет достижение «регуляторных рамок» для управления этими рисками.

Эти напряженности проявились после публикации в конце недели статьи генерального директора компании «Антропик», Дарью Амуди, в которой он призвал ведущие американские лаборатории замедлить темпы развития искусственного интеллекта.

Амуди призвал к тому, чтобы любое замедление сопровождалось механизмами, обеспечивающими сохранение технологического превосходства США над Китаем, особенно за счет ограничения доступа Пекина к передовым чипам, а также противодействия китайским компаниям, которые обучают свои модели, используя выходные данные конкурентных американских моделей — процесс, известный как «дистилляция».

В ответ заместитель декана Института международного управления искусственным интеллектом при Цинхуа, Сяо Цянь, которая представила свой отдел на неофициальных переговорах с американской стороной, выразила разочарование китайских экспертов в заявлениях Амуди.

Сяо сказала: «Мы испытываем глубокую тревогу и разочарование; эксперты по безопасности искусственного интеллекта в Китае хотят работать вместе с США для управления передовыми рисками, однако статья Амуди создает впечатление, что пространство для сотрудничества стало уже более узким и ограниченным, чем ожидалось».

Она добавила, что связывание вопроса с национальной безопасностью «усугубляет любые возможные перспективы сотрудничества и делает ситуацию еще более сложной».

Точка соприкосновения

Свою критику в адрес утверждений Амуди в понедельник направила газета «Глобал Таймс», принадлежащая Коммунистической партии Китая, утверждая, что прогресс Китая в области искусственного интеллекта представляет собой «серьезную угрозу для США и всего мира».

По словам китайского эксперта, цитируемого газетой, такие утверждения «подвергают риск преобразования безопасности искусственного интеллекта в геополитический вопрос, основанный на нулевой сумме, вместо того чтобы рассматривать его как глобальную проблему, требующую координации крупнейших технологических держав», указав, что мотивация Амуди «в первую очередь коммерческая».

Перед проведением саммита Трампа и Си 24 сентября, источники, знакомые с обсуждениями внутри правительства США, заявили, что ожидания относительно достижения какого-либо существенного соглашения по искусственному интеллекту крайне низки.

Несмотря на объявление Китая в мае о согласии лидеров на запуск диалога по искусственному интеллекту во время саммита в Пекине, с тех пор официальных переговоров по этому вопросу не было.

Хотя Трамп заявил, что обсуждал «правила безопасности» со Си, в конце недели он снова заявил, что подобные правила не нужны.

Кроме того, возникла еще одна точка соприкосновения — обвинения США в том, что китайские лаборатории обходят правила разработки с помощью технологии «дистилляции».

Источники, осведомленные о ходе переговоров, сообщили, что сотрудник Министерства торговли США Билл Гедира поднял эти опасения во время встреч с китайским электронным ведомством на полях министерского заседания Азиатско-Тихоокеанского экономического форума (АПЕК).

Подрыв шансов на согласие

В свою очередь, китайские должностные лица отвергли эти обвинения, назвав их совершенно необоснованными, подчеркнув, что они игнорируют самостоятельные инновации и достижения национальных компаний.

Белый дом открыто предупредил Пекин о возможных жестких мерах в ответ на практики дистилляции; на прошлой неделе агентство национальной безопасности и другие американские органы безопасности обвинили ведущие китайские структуры, включая «Дип Сик» и «Али Баба», в проведении дистилляции, отметив, что это было сделано «скорее всего, с ведома китайского правительства».

Свою позицию эксперты Китая считают, что обвинения в дистилляции подрывают шансы на достижение согласия.

Сун Чэнхао, исследователь Центра по безопасности и стратегии при Цинхуа, заявил, что «обвинения в том, что развитие китайских моделей основано на дистилляции американских моделей, порождают обеспокоенность в сфере безопасности и политическое давление, препятствующее сотрудничеству в области передовых технологий».

Многие эксперты указали на различия в приоритетах сторон по характеру угроз: в то время как в США акцент делается на будущих существенных рисках и способах предотвращения выхода искусственного интеллекта из-под контроля, китайские организаторы сосредоточены на текущих рисках, таких как кибератаки и предотвращение распространения политически чувствительного контента.

Источник, знакомый с подходами китайских регулирующих органов, отметил, что «в настоящее время жесткие меры контроля не служат национальным интересам Китая, поскольку страна все еще отстает в этой области».

Исполнительные директора и инвесторы в ведущих китайских группах искусственного интеллекта подтвердили отсутствие серьезных или существенных обсуждений внутри своих кругов по вопросам катастрофических или существенных рисков технологии.

Использование искусственного интеллекта на китайских заводах

Поверхностные дискуссии

В этом контексте инвестор в двух китайских компаниях, занимающихся крупными языковыми моделями, сказал: «Мы почти не слышим обсуждений безопасности искусственного интеллекта на встречах инвесторов».

Он добавил: «Последнее время появились лишь поверхностные дискуссии среди исследователей и на дружеских встречах, но они ни в коем случае не достигли уровня спора, происходящего в США; все сосредоточены на укреплении возможностей и решении насущных задач».

Также руководитель китайской компании по искусственному интеллекту отметил, что ведущие разработчики, такие как «Дип Сик» и «Мон Шот», стремятся к достижению общего искусственного интеллекта, однако в целом полагают, что их американские коллеги первыми достигнут этого результата.

Он добавил: «Компания, которая первой разработает общий искусственный интеллект, будет нести ответственность за ответы на этические вопросы, в то время как усилия китайских компаний направлены на закрытие разрыва и создание прибыльных бизнес-моделей».

Тем не менее, опасения, вызванные искусственным интеллектом, начали занимать более важное место в политическом повестке дня Китая; Министерство государственной безопасности выпустило один из самых широких предупреждений до сих пор от высокопоставленного китайского органа по рискам технологии, указав на угрозы, варьирующиеся от кибератак и кражи данных до политической нестабильности и военных конфликтов.

Источник, близкий к китайским организаторам, считает, что это заявление является «сигналом США о наличии пространства для диалога по искусственному интеллекту во время саммита Трампа и Си», продемонстрировав заинтересованность китайских должностных лиц в вопросе рисков технологий.