Les conseils médicaux de l'IA, un risque invisible pour les médecins

Des experts mettent en garde contre la dépendance aux robots conversationnels alimentés par l'intelligence artificielle pour obtenir des avis sanitaires. Ils soulignent que les préjudices causés par ces informations erronées risquent de passer inaperçus aux yeux des praticiens et des autorités de régulation, en raison de l'opacité des échanges entre utilisateurs et systèmes.

Une étude publiée dans la revue Nature Health, impliquant des chercheurs des universités Binghamton, Stanford, Texas A&M et Indiana, révèle que le problème dépasse la simple imprécision potentielle des réponses. La véritable difficulté réside dans l'impossibilité de détecter ces fautes et d'évaluer leur impact clinique, notamment lorsque les conversations restent confinées aux plateformes d'IA.

Un cas d'intoxication révélateur

Les auteurs citent l'exemple d'un homme de 60 ans ayant consulté ChatGPT pour réduire son apport en chlorure alimentaire. L'assistant lui a suggéré de remplacer le sel de table par du bromure de sodium. En suivant ce conseil, le patient a souffert d'une intoxication au bromure, nécessitant une hospitalisation et provoquant hallucinations et idées délirantes.

Cet incident démontre la complexité à identifier l'origine exacte de l'erreur médicale. Les soignants n'ont pas pu connaître avec précision la recommandation reçue, car l'historique de la discussion était inaccessible hors de la plateforme. Selon les chercheurs, l'absence de mécanismes efficaces pour surveiller ces interactions rend plus ardue la détection des dommages liés aux mauvais conseils sanitaires.

Contrairement aux consultations traditionnelles documentées dans les dossiers patients ou aux effets secondaires médicamenteux signalés via des systèmes dédiés, les dialogues avec l'IA ne sont souvent pas disponibles pour les médecins, les chercheurs ni les régulateurs. Cette lacune limite leur capacité à repérer les récurrences d'erreurs et à quantifier les risques associés.

Exposition aux informations trompeuses

Le danger ne se limite pas aux questions posées directement par les utilisateurs. Les personnes peuvent être exposées à des données sanitaires fallacieuses lors de la navigation web, via des résumés générés par l'IA ou des publications circulant sur les réseaux sociaux.

Pour atténuer ces menaces, l'équipe propose plusieurs mesures, dont la garantie d'un accès utilisateur à l'historique complet de leurs échanges. Ils plaident également pour le développement d'outils capables de détecter automatiquement les recommandations dangereuses et de les signaler, facilitant ainsi l'analyse des erreurs et de leurs conséquences.

Les chercheurs invitent les décideurs publics à examiner l'extension de la responsabilité juridique aux entreprises d'intelligence artificielle fournissant des orientations médicales. L'objectif est d'instaurer un niveau de redevabilité proportionné aux dangers potentiels des conseils prodigués.

L'étude insiste enfin sur la prudence requise face aux affirmations péremptoires des chatbots. Un ton confiant ne garantit pas l'exactitude scientifique. Le recours à des professionnels de santé demeure indispensable pour toute décision relative au diagnostic, au traitement ou à la modification du régime alimentaire selon un état clinique donné.