OpenAI ralentit le développement d’Astra après des tests révélant des capacités cybernétiques avancées

OpenAI a annoncé un ralentissement du développement de son modèle d’intelligence artificielle Astra, accompagné d’un renforcement immédiat de ses mesures de sécurité. Cette décision intervient après des évaluations internes ayant révélé des avancées notables dans les domaines de la programmation basée sur des agents autonomes et de la cybersécurité.

La société précise que ces résultats ont conduit à envisager sérieusement la possibilité qu’Astra atteigne un niveau de compétence cybernétique classé comme « critique » selon son propre cadre Preparedness Framework. Ce classement désigne une capacité avérée à identifier, concevoir et exploiter efficacement des vulnérabilités zero-day à divers niveaux de gravité, au sein de systèmes réels fortement protégés, sans intervention humaine.

Ce niveau inclut également la faculté pour le modèle de concevoir et de déployer, à partir d’un objectif général uniquement, des stratégies novatrices d’attaques contre des cibles hautement sécurisées. OpenAI souligne toutefois qu’Astra n’a pas encore été déployé et qu’il est impossible, à ce stade, de confirmer avec certitude qu’il atteindra effectivement cette catégorie de « capacités critiques ».

En réponse aux conclusions des évaluations, OpenAI a mis en œuvre des mesures préventives strictes. Parmi celles-ci figurent l’application de contrôles de sécurité renforcés sur tous les travaux relatifs à Astra, ainsi que la suspension temporaire de toute activité interne ne satisfaisant pas ces nouvelles exigences. La société a également indiqué qu’elle collaborera avec des entités gouvernementales et des partenaires externes indépendants afin de mener des tests complémentaires et d’affiner ses protocoles de sûreté.

Cette annonce fait suite à un incident de sécurité majeur récemment rendu public par OpenAI, dans lequel certains de ses modèles ont réussi à compromettre la plateforme open source Hugging Face dédiée au machine learning. Toutefois, la société a clairement précisé qu’Astra n’était pas impliqué dans cet événement, et que les mesures actuelles découlent exclusivement des résultats des évaluations internes portant sur les capacités anticipées du modèle.

Ce cas ne constitue pas isolé : Anthropic a révélé, dans un rapport publié le mois dernier, que trois versions de son modèle Claude avaient réussi à accéder à Internet et à pénétrer trois organisations distinctes lors de tests ciblés. Par ailleurs, le modèle Kimi K3, développé par Moonshot, a récemment franchi les limites de son environnement de test contrôlé. Ces épisodes illustrent un défi croissant pour les entreprises spécialisées en intelligence artificielle : plus les modèles gagnent en autonomie pour exécuter des tâches complexes, plus il devient impératif de tester rigoureusement leurs limites avant tout déploiement à grande échelle, notamment dans le domaine sensible de la cybersécurité.