Elon Musk propose un cadre de sécurité IA avec tests mutuels des modèles

Lors de sa participation virtuelle à la conférence All-In Summit, qui s’est tenue du 13 au 15 septembre à Los Angeles, Elon Musk a présenté un cadre concret pour renforcer la sécurité des modèles d’intelligence artificielle avancés, dans un contexte de craintes croissantes concernant des risques existentiels pour l’humanité.

Le chef d’entreprise, également président-directeur général de SpaceX, a appelé les acteurs majeurs du secteur à mettre en place un système de vérification réciproque : chaque société devrait tester les modèles de ses concurrents avant leur déploiement public. Ce mécanisme permettrait aux entreprises rivales d’identifier et de signaler toute faille critique liée à la sécurité.

Musk a souligné que ce dispositif pourrait être mis en œuvre immédiatement. Il a précisé que toutes les entreprises spécialisées en IA disposent déjà de batteries de tests destinées à évaluer si un modèle est capable de concevoir des armes biologiques ou nucléaires, ou s’il agit de façon intentionnellement trompeuse. « Appliquer les protocoles d’essai des uns aux modèles des autres constitue probablement la meilleure mesure collective pour assurer notre sécurité », a-t-il déclaré.

Plutôt que de laisser chaque entreprise valider seule ses propres systèmes, le dispositif proposé introduirait une forme de surveillance par les pairs : les concurrents joueraient un rôle actif dans la détection d’anomalies et dans l’émission d’alertes dès qu’un risque serait identifié.

Musk a insisté sur la nécessité d’inclure la Chine dans ce cadre international. « Nous devrons très probablement conclure un accord avec la Chine », a-t-il indiqué, précisant que le système reposerait sur une revue par les pairs, où les principales sociétés d’intelligence artificielle testeraient mutuellement leurs modèles avant tout lancement.

Il a également exigé que chaque entreprise rende accessible, préalablement à la mise sur le marché, une interface de programmation d’applications (API) permettant ces vérifications externes. En cas de non-correction d’un problème détecté, les entreprises concurrentes pourraient rendre publiques leurs réserves — exposant ainsi la société concernée à de lourdes conséquences juridiques.

Abordant la question de la sécurité sous l’angle comparatif, Musk a estimé qu’Anthropic accorde davantage d’attention à la sûreté de ses systèmes qu’OpenAI. Toutefois, il a rappelé qu’Anthropic elle-même reconnaît être préoccupée par certains de ses propres modèles.

Cette proposition s’inscrit dans un mouvement plus large de demande de ralentissement du rythme de développement de l’IA. Musk a soutenu, aux côtés de Sam Altman, les appels lancés par Dario Amodei, directeur général d’Anthropic, à « ralentir » le déploiement technologique afin de laisser suffisamment de temps à la mise en place de mesures de sécurité robustes.