Claude participe à son propre développement, selon Anthropic

La société Anthropic a annoncé que son modèle d’intelligence artificielle Claude contribue activement à l’élaboration de sa propre version améliorée. Le système est désormais à l’origine de 26 % des activités de recherche et de développement liées aux modèles au sein de l’entreprise.

« Les systèmes d’intelligence artificielle gagnent en puissance et sont de plus en plus utilisés pour concevoir leur successeur », a indiqué Anthropic dans un billet de blog. « Nous souhaitons éclairer ce progrès pour le grand public. »

Ce niveau d’autonomie implique que Claude exécute une grande partie du travail technique à partir d’instructions générales, tout en restant encadré par une supervision humaine continue. Environ 90 % des recherches et développements menés par Anthropic s’effectuent aujourd’hui en collaboration étroite avec le modèle, qui prend en charge des segments substantiels des tâches sous direction humaine précise.

Cette annonce intervient alors que Dario Amodei, directeur général d’Anthropic, appelle, aux côtés de Sam Altman (OpenAI) et d’Elon Musk, à ralentir le rythme de développement des technologies d’IA en raison des risques qu’elles posent. Une position contestée par d’autres dirigeants technologiques ainsi que par l’ancien président américain Donald Trump.

Anthropic souligne que Claude ne participait à aucune phase de recherche interne en février dernier. En l’espace de six mois, sa contribution est passée à un quart des efforts de R&D de la société d’août. À cette date, environ 30 000 agents d’intelligence artificielle étaient mobilisés sur des tâches de recherche et d’ingénierie, chacun soumis à des protocoles de surveillance destinés à détecter tout comportement inapproprié.

Dans le cadre de ses engagements en matière de sécurité, Anthropic a récemment décidé de faire appel à des évaluateurs externes, issus de tiers indépendants, chargés de superviser ses initiatives de sûreté interne.

Cette communication s’inscrit dans un débat public accru sur la sécurité des systèmes d’IA, renforcé par la démission, la semaine dernière, d’un chercheur d’Anthropic qui avait mis en garde contre les menaces potentielles de ces technologies pour l’humanité.

« Nous devons tout mettre en œuvre pour réduire l’écart entre ce que les laboratoires de modèles avancés savent et ce que le public comprend », affirme la société. Cela passe, selon elle, par une mesure plus rigoureuse de l’évolution des IA, une divulgation transparente de ces indicateurs et la possibilité offerte à la société civile de déterminer comment ces données doivent être utilisées.

Anthropic note également que l’accélération de l’auto-amélioration des modèles pourrait rendre leur compréhension ou leur maîtrise plus complexes pour les humains. Partager ces métriques, explique-t-elle, permettrait d’évaluer à quel point les laboratoires se rapprochent de la réalisation d’un « amélioration auto-récurrente » — c’est-à-dire la capacité d’un modèle à concevoir de manière autonome son propre successeur. La société invite d’autres entreprises à publier régulièrement des indicateurs similaires.