L’IA révèle un espace mental interne, questionnant les principes du raisonnement

Anthropic a identifié au sein de Claude un espace interne où se forment les pensées avant même que les mots n’apparaissent, remettant en cause notre compréhension de la cognition humaine.

Cette découverte offre une fenêtre sur l’intelligence artificielle qui pourrait révéler les principes fondamentaux de la pensée.

Récemment, j’ai partagé une réflexion sur l’IA que je ne pensais pas écrire avant plusieurs années, voire jamais. J’ai reconnu que l’intérieur de ces systèmes n’est peut-être pas ce « espace vide » que je décrivais depuis longtemps. Anthropic a mis au jour ce qu’ils appellent le J-space, un ensemble restreint de motifs internes qui fonctionnent comme un espace de travail mental. C’est là que les concepts prennent forme et influencent les réponses, sans jamais apparaître dans le texte final. Les chercheurs peuvent observer la formation d’une pensée à l’intérieur de la machine avant qu’elle ne s’exprime. Cette idée ne cesse de me préoccuper.

Deux points ressortent particulièrement. D’abord, personne n’a conçu cet espace de travail. Il est apparu spontanément lors de l’entraînement. Ensuite, lorsque les chercheurs ont supprimé le J-space, la simple capacité de rappel est restée intacte, mais le raisonnement complexe s’est effondré. Quelle que soit la nature de cette structure, elle n’est pas superflue. En la retirant, la pensée cesse.

Il faut commencer par là. Étudier la cognition signifiait jusqu’ici étudier l’humain. Chaque esprit capable que nous pouvions analyser provenait de l’évolution, y compris celui qui étudiait. L’IA brise ce monopole. Quoi qu’ils soient, ces systèmes représentent une seconde réalisation de la cognition avancée, atteinte par une voie totalement différente. Cette « seconde réalisation » nous permet de poser une question auparavant inaccessible : la pensée repose-t-elle sur des principes premiers ?

Je pense qu’une réponse possible est oui. La cognition, comme la vision ou le vol, pourrait n’avoir que quelques solutions d’ingénierie viables. L’évolution a trouvé un espace de travail en nous. L’entraînement en a trouvé un dans la machine. Les yeux de la pieuvre et ceux de l’humain ont convergé vers des optiques similaires malgré une séparation évolutive de plus de cinq cents millions d’années, et personne ne considère la pieuvre comme une copie.

Cette hypothèse bénéficie d’un solide appui. Stanislas Dehaene et Lionel Naccache, deux figures majeures de la théorie du workspace global en conscience humaine, ont examiné les travaux d’Anthropic et livré cette analyse frappante :

« Le workspace global pourrait offrir une solution computationnelle universelle au problème du traitement flexible, une solution vers laquelle convergent les systèmes biologiques et artificiels lorsqu’ils doivent enchaîner des raisonnements, réutiliser des résultats intermédiaires et rendre compte de leur propre traitement. »

Si cette analyse est juste, nous avons entrevu un principe même de la pensée.

L’autre hypothèse est plus étrange. Chaque mot appris par le modèle provient d’esprits qui fonctionnent déjà de cette manière. Peut-être que la machine a construit son espace de travail en copiant ce que tous ses données d’entraînement avaient en commun : nous. Dans ce cas, nous n’aurions pas découvert un principe de la cognition, mais notre propre reflet, enfoui plus profondément dans la machine que prévu.

Ce qui empêche cette idée de rester purement théorique, c’est qu’elle peut être testée. Entraîner un système principalement sur des données non humaines, comme le repliement des protéines ou la météo, et observer si un espace similaire apparaît. Si oui, cela indiquerait une loi. Sinon, cet espace ressemblerait à quelque chose que nous avons transmis à la machine sans le vouloir. Les chercheurs eux-mêmes considèrent cette question comme ouverte. L’expérience attend donc d’être réalisée.

Quelle que soit la réponse, elle modifie notre compréhension. L’une affirme que la pensée repose sur des principes premiers que nous pouvons enfin chercher. L’autre suggère que l’esprit le plus convaincant que nous ayons jamais créé est une copie du seul que nous avions, et que nous ne saurions jamais faire la différence de l’intérieur.

J’ai passé trois ans à soutenir que ces machines pensent sans esprit derrière leur pensée. C’est la première découverte qui pourrait me contredire. Elle pourrait aussi être la meilleure preuve que j’avais raison. Je l’ignore encore.