La Chine exploite des modèles d'IA américains pour renforcer ses systèmes de défense

Une analyse menée par l'agence Reuters sur plus de 80 publications scientifiques et brevets chinois met en lumière l'utilisation par des chercheurs militaires chinois des résultats issus de modèles d'intelligence artificielle avancés développés par les entreprises américaines OpenAI et Anthropic. Ces données servent à entraîner des systèmes d'IA locaux visant à renforcer les capacités défensives de la Chine.

Ces informations inédites montrent comment des institutions militaires et de sécurité chinoises tirent parti des modèles d'IA américains sophistiqués pour accélérer la création de systèmes spécialisés, malgré les efforts de Washington pour limiter l'accès de Pékin aux puces électroniques avancées et autres technologies stratégiques.

Les documents révèlent une utilisation étendue d'une technique appelée "distillation de modèles", qui consiste à employer les sorties d'un modèle d'IA avancé pour former des modèles plus petits et spécialisés pouvant fonctionner localement, sans nécessiter les ressources informatiques massives requises pour développer des systèmes complexes à partir de zéro.

La revue de Reuters, incluant des recherches compilées par la James Town Foundation à Washington et partagées exclusivement avec l'agence, indique que des chercheurs liés à l'Armée populaire de libération chinoise et à d'autres institutions militaires appliquent largement cette méthode de distillation de modèles.

Les études suggèrent que les organismes de défense chinois considèrent les modèles d'IA américains de pointe comme une source d'inspiration technologique et un moyen de combler leur retard face à leurs concurrents américains.

Le différend porte sur l'extraction non autorisée de données, et non sur la distillation de modèles elle-même, qui est une pratique courante dans le domaine.

Cette question est devenue un point de friction majeur avant les discussions entre les États-Unis et la Chine sur la gouvernance et la sécurité de l'intelligence artificielle. Des responsables américains accusent certaines entités chinoises d'utiliser la distillation de modèles pour extraire les capacités des modèles d'IA américains, ce qui pourrait compromettre les contrôles à l'exportation et violer les droits de propriété intellectuelle.

La Chine rejette ces accusations, affirmant que Washington cherche à maintenir sa "domination" dans le secteur de l'IA, et souligne que des entreprises américaines ont également adopté des pratiques similaires.

Par ailleurs, des développeurs chinois contestent que leurs progrès en intelligence artificielle reposent sur des modèles étrangers.

Une étude publiée l'année dernière, rédigée par des chercheurs de l'unité 96941 de l'Armée populaire de libération, mentionne l'utilisation du modèle GPT-3.5 développé par OpenAI pour traiter des codes militaires sensibles. Cette unité est spécialisée dans le renseignement militaire et la guerre électronique.

Les chercheurs ont indiqué que les modèles externes ne conviennent pas au traitement d'informations confidentielles. Pour contourner cette limite, ils ont utilisé GPT-3.5 pour résumer des codes logiciels, puis ont entraîné un modèle local sur ces résumés afin qu'il fonctionne entièrement au sein des réseaux militaires chinois.

Le Bureau ovale, le ministère américain de la Défense, le ministère chinois des Affaires étrangères, l'Armée populaire de libération et OpenAI n'ont pas répondu aux demandes de commentaires.