Reuters: Китай использует американские ИИ-модели для создания оборонных систем

Анализ, проведённый агентством Reuters, охватил свыше 80 китайских научных публикаций и патентов, в которых обнаружено, что военные исследователи Китая используют выходные данные передовых американских моделей искусственного интеллекта, разработанных компаниями OpenAI и Anthropic, для обучения собственных ИИ-систем, направленных на усиление оборонных возможностей страны.

Полученные данные, ранее не публиковавшиеся, демонстрируют, как китайские военные и силовые структуры применяют американские продвинутые ИИ-модели для ускорения создания специализированных систем, несмотря на усилия Вашингтона по ограничению доступа Пекина к современным микросхемам и стратегическим технологиям.

В документах широко описывается использование технологии, известной как «дистилляция моделей» — процесс, при котором выходные данные продвинутой ИИ-модели служат для обучения меньших, более узкоспециализированных моделей, способных функционировать локально без необходимости в мощных вычислительных ресурсах, требуемых для разработки сложных систем с нуля.

Обзор Reuters, включающий исследования, собранные Фондом Джеймстаун в Вашингтоне и предоставленные агентству эксклюзивно, выявил, что учёные, связанные с Народно-освободительной армией Китая и другими военными организациями, широко используют технологию дистилляции моделей.

Исследования свидетельствуют, что оборонные учреждения Китая рассматривают ведущие американские ИИ-модели как источник технического видения и инструмент сокращения технологического отставания от американских конкурентов.

Спор сосредоточен на несанкционированном извлечении данных, а не на самой практике дистилляции моделей, которая является распространённой в данной сфере.

Этот вопрос стал ключевой точкой разногласий перед переговорами между США и Китаем по вопросам регулирования и безопасности искусственного интеллекта. Американские чиновники обвиняют некоторые китайские организации в использовании дистилляции моделей для извлечения возможностей американских ИИ-систем, что может подорвать экспортный контроль и нарушить права интеллектуальной собственности.

Китай отвергает эти обвинения, заявляя, что Вашингтон стремится к «гегемонии» в области искусственного интеллекта, и указывает, что американские компании также прибегают к аналогичным практикам.

Китайские разработчики отрицают, что их успехи в области искусственного интеллекта зависят от иностранных моделей.

В опубликованном в прошлом году исследовании, подготовленном учёными из подразделения 96941 Народно-освободительной армии Китая, отмечается использование модели GPT-3.5, разработанной OpenAI, для обработки чувствительных военных программных кодов. Подразделение 96941 занимается военной разведкой и кибервойнами.

Исследователи указали, что внешние модели не подходят для работы с секретной информацией. Для обхода этого ограничения они использовали GPT-3.5 для создания сводок программного кода, после чего обучили локальную модель на этих сводках, чтобы обеспечить её полное функционирование внутри военных сетей Китая.

Запросы Reuters на комментарии остались без ответа со стороны Белого дома, Министерства обороны США, Министерства иностранных дел Китая, Народно-освободительной армии Китая и компании OpenAI.