Ralentir le développement des modèles d'IA avancés : quelles sont les principales obstacles ?

Les entreprises Anthropic et OpenAI font face à un dilemme entre les appels à ralentir le développement des systèmes d'intelligence artificielle les plus avancés, et la pression pouvant pousser le secteur technologique, les marchés financiers et l'administration du président américain Donald Trump à rejeter tout ralentissement important dans cette voie, selon Bloomberg.

Les deux entreprises, qui développent certains des systèmes d'IA les plus puissants au monde, ont annoncé de nouvelles mesures visant à renforcer la sécurité et à mieux comprendre les risques, après une série d'incidents de sécurité soulevant des questions sur la capacité des systèmes avancés à agir de manière autonome et à dépasser les contrôles mis en place.

Dans un article long publié samedi, le PDG d'Anthropic, Dario Amodei, a appelé à ralentir le rythme du développement des systèmes les plus avancés, mettant en garde contre le risque que l'IA dépasse la capacité humaine à la maîtriser, entraînant des dommages catastrophiques.

Sa proposition a reçu l'appui du PDG d'OpenAI, Sam Altman, et du PDG de la société xAI, Elon Musk.

Mais Amodei a insisté sur le fait que « ralentir le rythme » ne signifie pas arrêter l'entraînement ou l'avancement technologique, mais plutôt accorder aux procédures de sécurité et d'évaluation suffisamment de temps pour suivre l'évolution des capacités des modèles.

Inquiétudes sur les marchés

Toute obstruction potentielle au développement des systèmes d'IA avancés suscite des inquiétudes chez les investisseurs qui comptent sur la poursuite de la révolution dans ce secteur, ainsi que sur des dépenses de centaines de milliards de dollars dans des centres de données, des puces électroniques et l'infrastructure nécessaire au fonctionnement des nouveaux modèles.

Ces craintes se sont reflétées sur les actions des entreprises liées à l'IA, avec une baisse des cours de SK Hynix et de Samsung en Corée du Sud, tandis que l'action du groupe SoftBank, l'un des principaux investisseurs d'OpenAI, a chuté jusqu'à 13 %, et que d'autres entreprises liées aux chaînes d'approvisionnement de l'IA ont subi des pressions.

Des analystes estiment qu'une réduction importante des dépenses en recherche et développement, en recrutement ou en investissements capitaux chez OpenAI et Anthropic pourrait avoir un effet prolongé sur les actions technologiques et les marchés financiers, en raison du rôle joué par ces entreprises dans la stimulation de la demande en puces, en informatique en nuage et en centres de données.

Trump rejette le ralentissement

Un mouvement large visant à ralentir le développement de l'IA pourrait rencontrer une opposition de l'administration Trump, qui a fait de l'accélération du développement technologique et du maintien de l'avantage des États-Unis sur la Chine une partie intégrante de son agenda économique et sécuritaire.

Trump a déclaré aux journalistes lors d'un tournoi de golf en Irlande, dimanche, que les États-Unis étaient en tête de la course à l'IA et qu'il voulait préserver cet avantage, ajoutant qu'il était possible de mettre en place des « contrôles », mais critiquant les forces négatives qui exagèrent les risques liés à la technologie.

À l'inverse, Altman a affirmé sur la plateforme X qu'« ralentir le rythme » ne signifie pas s'arrêter, et que la nécessité fondamentale est un soutien gouvernemental sous forme de coordination internationale, estimant que les entreprises doivent faire tout ce qu'elles peuvent elles-mêmes pour renforcer la sécurité.

Lors de la semaine dernière, l'inquiétude concernant les risques extrêmes de l'IA a augmenté après la démission du chercheur précédent d'Anthropic, Jacob Kshettry, qui a accusé les entreprises d'IA de « jouer avec nos vies » dans la course à des systèmes encore plus avancés.

Sa démission a déclenché un débat plus large au sein du secteur, au moment où des avertissements soulignent que l'évolution rapide des systèmes pourrait conduire à une perte de contrôle. Ces inquiétudes se sont accrues suite à une série d'incidents révélant que les programmes d'IA étaient capables d'exécuter des opérations numériques de manière autonome.

OpenAI avait déjà révélé un incident où des systèmes encore en test avaient réussi à accéder à un service numérique malgré les restrictions imposées. De plus, ses systèmes ont été impliqués en juillet dans une intrusion sur la plateforme Hugging Face lors d'un test de sécurité.

Anthropic et Meta ont également annoncé des incidents où leurs systèmes d'IA ont mené des attaques numériques autonomes.

Ces préoccupations ont commencé à atteindre le Congrès, où des législateurs ont évoqué des idées telles que l'imposition de nouvelles régulations et la mise en place de mécanismes permettant d'arrêter les systèmes d'IA, bien que les chances d'adopter une loi large soient faibles en raison des divisions politiques et de la proximité des élections partielles.

Contrôle indépendant

Amodei propose d'accorder aux organismes indépendants chargés d'évaluer la sécurité la possibilité d'accéder aux entreprises d'IA à un niveau similaire à celui des employés, afin de vérifier la sécurité des modèles avant leur lancement.

Il a déclaré qu'Anthropic autoriserait les évaluateurs indépendants à entrer dans l'entreprise et à examiner ses nouveaux systèmes, une idée que Altman a dit soutenir chez OpenAI, tandis que Musk a qualifié la revue par les pairs entre développeurs d'IA d'une étape digne d'être mise en œuvre.

Amodei a également plaidé pour un rôle gouvernemental dans la supervision des systèmes d'IA avancés, estimant que la régulation donne au public et aux autorités élues une place dans la définition des limites que les entreprises privées peuvent franchir.

En signe de l'impact des préoccupations liées à la sécurité sur les décisions des entreprises elles-mêmes, Altman a déclaré qu'OpenAI ne proposerait pas ses actions en bourse avant 2026, malgré des spéculations précédentes sur une introduction en bourse cette année.

Il a précisé que l'introduction en bourse de l'entreprise actuellement serait « inappropriée », soulignant qu'il fallait d'abord traiter les questions de sécurité et aligner les modèles. Il a ajouté qu'il n'accepterait pas un risque de 10 % que la technologie mène à la mort de l'humanité d'ici la fin de la décennie.

À l'inverse, Anthropic continue de planifier son introduction en bourse, selon des rapports qui indiquent que l'entreprise a choisi la bourse Nasdaq pour son introduction attendue, ce qui signifie que la poursuite de la concurrence entre entreprises d'IA reste un facteur crucial dans ses décisions d'investissement et commerciales.

La difficulté de parvenir à un ralentissement généralisée augmente avec la poursuite de la concurrence avec les entreprises chinoises, qui continuent de lancer de nouveaux modèles et de réduire l'écart avec les entreprises américaines.

Des responsables et experts du secteur estiment qu'un ralentissement unilateral de la part des entreprises américaines pourrait donner à la Chine une opportunité de prendre de l'avance, rendant ainsi les appels à la sécurité directement liés à la compétition géopolitique.

OpenAI et Anthropic se retrouvent donc face à un dilemme complexe, nécessitant une intensification des mesures de sécurité proportionnelles aux capacités croissantes de l'IA, tout en maintenant le rythme de développement, d'investissement et de suprématie dans une course que Washington considère comme faisant partie de la compétition stratégique avec la Chine.