Assurance et justice : qui paiera la facture des dérives de l'IA ?

La crainte grandit dans les milieux assurantiels et juridiques que la perte de contrôle sur les intelligences artificielles n'entraîne des préjudices matériels ou humains. Cette perspective ouvre la voie à des poursuites judiciaires susceptibles de viser directement les hauts cadres dirigeants, y compris Sam Altman, le patron d'OpenAI.

D'après une information publiée mardi par le Financial Times, les compagnies d'assurance et les cabinets d'avocats se préparent à faire face à un afflux potentiel de demandes d'indemnisation massives consécutives aux dysfonctionnements de ces technologies émergentes.

Le débat sur les limites de la responsabilité légale gagne en intensité à mesure que la perception des risques associés à l'IA s'aiguise. Les incidents impliquant des agents autonomes, tels que la faille de sécurité ayant touché la plateforme Hugging Face, ont particulièrement cristallisé cette attention.

Une étude menée par le courtier Aon, portant sur plus de 300 litiges liés à l'intelligence artificielle, révèle que les assureurs sont confrontés à des réclamations couvrant divers types de polices. Ces dernières incluent les garanties contre la criminalité, la propriété intellectuelle, les cyber-risques ainsi que les erreurs et omissions techniques.

Responsabilité des dirigeants sous surveillance

La question centrale porte désormais sur l'impossibilité pour les executives des entreprises développant l'IA de se dédouaner des dommages causés par leurs propres systèmes. Tim Reiner, responsable des sinistres au Royaume-Uni chez Verisk, a commenté l'affaire Hugging Face en affirmant que la charge finale incombe au directeur général d'OpenAI.

Selon lui, l'enjeu réside dans la capacité de la direction à maintenir une supervision efficace des activités de l'entreprise. Il souligne que chaque PDG reste tenu de garantir une gestion saine et un contrôle rigoureux, une obligation fondamentale que l'avènement de l'IA ne saurait modifier.

Cette évolution préoccupe vivement le secteur assurantiel, car les dirigeants pourraient devenir les cibles privilégiées de recours judiciaires découlant d'accidents provoqués par des agents intelligents échappant à tout contrôle humain.

Le rôle clé de l'assurance D&O

Les conflits potentiels pourraient mobiliser les contrats d'assurance responsabilité des mandataires sociaux (D&O). Ces produits financiers couvrent certaines pertes résultant de poursuites engagées contre les cadres pour leurs décisions de gestion ou leurs déclarations publiques.

Si OpenAI dispose d'une telle protection, les termes du contrat pourraient, selon le Financial Times, prendre en charge une partie des coûts liés aux actions judiciaires visant Sam Altman. Toutefois, aucune jurisprudence établie ne tranche encore la question de la responsabilité personnelle des dirigeants face aux actes autonomes de leurs algorithmes.