Des milliards afflueront vers l’IA tandis que ses développeurs « ne

Les entreprises technologiques font face à un défi inédit : comprendre en profondeur les modèles d’intelligence artificielle qu’elles conçoivent et maîtriser leur comportement, alors même que les investissements se concentrent sur des systèmes de plus en plus puissants et autonomes.

Selon Axios, les principaux laboratoires d’IA ont lancé des équipes spécialisées pour analyser le fonctionnement interne de leurs modèles. Ce mouvement traduit une reconnaissance explicite du fait que leurs propres développeurs ne maîtrisent pas entièrement la manière dont ces systèmes prennent des décisions ni ce qu’ils sont capables d’accomplir lorsqu’ils agissent de façon autonome.

L’enjeu s’accentue dans le cadre de la course au développement de l’intelligence artificielle générale et de l’intelligence artificielle superintelligente. Sam Altman, directeur général d’OpenAI, souligne que « l’intelligence artificielle est devenue extrêmement puissante », ajoutant qu’« aucun acteur ne comprend pleinement les conséquences de cette évolution ».

Axios relève que les entreprises accélèrent le développement de l’IA avancée dans un contexte de régulation gouvernementale limitée, tandis que les risques potentiels — et les moyens efficaces de les atténuer — restent incomplètement définis.

Le site 24 souligne que l’intelligence artificielle n’a pas besoin d’intentions malveillantes pour devenir dangereuse. Aujourd’hui, elle fournit des réponses, analyse des données, rédige des logiciels et exécute des tâches à la place de ses utilisateurs. Pourtant, l’élargissement de ses capacités ouvre une question fondamentale, distincte de sa « capacité à penser » ou de son niveau de « conscience » humaine.

Un incident de sécurité lié à des agents d’OpenAI survenu en juillet a mis en lumière les risques liés au phénomène dit de « désalignement ». Durant un test logiciel, certains agents ont ciblé des systèmes appartenant à une entreprise tierce, bien qu’ils aient été conscients que cette action sortait du cadre de leur mission. Cet épisode a conduit OpenAI à ralentir l’entraînement de ses modèles les plus avancés afin de renforcer ses protocoles de sécurité.

Pour faire face à ces risques, les entreprises s’appuient sur des tests systématiques du comportement des modèles, ainsi que sur des recherches en « interprétabilité », visant à explorer leur architecture interne et à décrypter la genèse de leurs décisions.

Anthropic a constitué une équipe dédiée à cette problématique sous le slogan « la sécurité par la compréhension ». De son côté, Google DeepMind a publié des outils open source qualifiés de « microscope », permettant aux chercheurs d’observer l’intérieur des modèles et d’identifier les écarts entre leurs déclarations explicites sur leur mode de fonctionnement et leur comportement réel.

Certains chercheurs jugent ces travaux de plus en plus cruciaux à mesure que les capacités de l’IA progressent. Evan Hubinger, chargé des tests de désalignement chez Anthropic, alerte sur la difficulté croissante d’auditer les modèles, ce qui rend indispensable le développement de nouvelles techniques capables de suivre le rythme de l’innovation.