Une patiente perd confiance après l’usage de l’IA pour enregistrer ses séances de thérapie

Les séances de thérapie reposent sur une confiance mutuelle entre le patient et le thérapeute, condition essentielle pour que le patient puisse s’exprimer librement. Pourtant, Molly Quinn, âgée de 31 ans, a été profondément choquée en apprenant que sa psychothérapeute enregistrait leurs conversations à l’aide d’un outil basé sur l’intelligence artificielle, selon un rapport diffusé par la radio NPR.

Quinn a remarqué ce changement lors d’une séance où la thérapeute ne prenait plus de notes comme à l’accoutumée. Elle a aussi constaté la présence inhabituelle d’un iPad placé devant elle, d’après le site futurism.

Cette découverte a suscité chez Molly Quinn de nombreuses interrogations sur le traitement de ses propos personnels, leur lieu de stockage, et la possibilité que ces données soient utilisées ultérieurement pour entraîner des systèmes d’intelligence artificielle. Elle souligne que ces questions ne viennent généralement pas à l’esprit des patients lorsque le thérapeute se contente de notes manuscrites, mais elles sont devenues pour elle une source d’inquiétude croissante.

Elle confie : « Plus j’y pense, plus j’ai la nausée. Cette personne, en qui je devais avoir confiance et à qui je confiais mes émotions les plus profondes, a complètement ignoré mon inconfort face à l’utilisation de cet outil. J’ai ressenti une violation flagrante de ma vie privée. » Bien que la thérapeute lui ait proposé de cesser d’utiliser l’intelligence artificielle, Quinn a décidé de mettre fin à leur relation thérapeutique, affirmant que la confiance était désormais rompue.

Dans le domaine médical, l’usage des outils d’intelligence artificielle pour prendre des notes et générer des transcriptions se répand progressivement. Les entreprises qui développent ces technologies vantent leur capacité à réduire la charge administrative, permettant ainsi aux professionnels de consacrer plus de temps à leurs patients.

Cependant, la fiabilité de ces outils reste largement remise en question. Outre le problème déjà observé des « hallucinations » – des erreurs introduites dans les dossiers médicaux –, l’acceptation par les patients de l’utilisation de telles technologies en santé mentale demeure incertaine.

Selon un sondage réalisé par YouGov et relayé par NPR, seulement 11 % des Américains se déclarent ouverts à l’usage de l’intelligence artificielle dans les soins psychologiques, tandis que 8 % seulement lui font confiance. En revanche, 40 % expriment une méfiance totale à son égard.

Marissa, thérapeute spécialisée dans les thérapies de couple à New York, estime que la présence de l’intelligence artificielle durant les séances modifie la nature même de l’expérience. Elle explique que les patients perçoivent ou sentent la présence d’un « tiers » qui les écoute, ce qui peut influencer indirectement leur degré de franchise.

Elle ajoute que le stockage électronique des informations soulève des questions supplémentaires sur la confiance et la sécurité, faisant de la technologie un acteur tiers au sein de la relation thérapeutique.

De son côté, Tal Salman, directeur général de « Peres », une plateforme d’enregistrement vocal par intelligence artificielle destinée aux thérapeutes, assure que les enregistrements sont supprimés immédiatement et que les transcriptions sont conservées sur des serveurs conformes à la loi HIPAA aux États-Unis.

Malgré ces garanties, Molly Quinn estime que les entreprises d’intelligence artificielle doivent encore gagner la confiance des patients, ce qui n’est pas le cas aujourd’hui. Elle redoute également que ces enregistrements soient un jour piratés par des hackers.

Elle conclut : « Nous allons assister à des violations, peut-être pas demain, ni la semaine prochaine, mais dans quelques années, j’en suis convaincue. Je ne veux pas que mes séances de thérapie fassent partie de cela. »