Qui décide de l'ordre des résultats sur les moteurs de recherche ?

Presque quatre-vingts ans après la publication du roman dystopique de George Orwell, une nouvelle forme de surveillance s'impose. L'écrivain avait imaginé un gouvernement contrôlant ses citoyens par un monitoring constant, projetant cette terreur dans un futur proche, 1984. Sa propre expérience des conflits mondiaux et de la Grande Dépression a nourri cette vision d'un État tout-puissant imposant des tourments personnalisés aux non-conformistes.

Orwell a survécu à la Première Guerre mondiale, terminée le 11 novembre 1918, puis assisté à l'effondrement économique et au déclenchement de la Seconde Guerre mondiale dix ans plus tard. Ce second conflit a culminé avec deux bombes atomiques, révélant la capacité humaine à décimer des populations entières. Cette succession de catastrophes explique probablement sa conception d'une autorité aussi oppressive.

Il est tentant d'analyser la psyché des créateurs célèbres, comme le producteur Disney Don Hahn l'a fait en liant la mort de la mère de Walt Disney aux thèmes récurrents de mères décédées dans les films. Les personnalités publiques subissent souvent une intrusion dans leur vie privée, leurs relations et leur santé mentale. Pour ceux qui ne sont pas célèbres, la menace évolue avec les réseaux sociaux et les traces numériques laissées sur diverses plateformes, y compris les chatbots d'intelligence artificielle.

Détection algorithmique des risques

La plupart des utilisateurs acceptent le suivi algorithmique pour recevoir des publicités ciblées, certains jeunes appréciant ce filtrage personnalisé. Cependant, la situation change lorsque les machines commencent à surveiller et diagnostiquer la santé mentale. Il ne s'agit plus de science-fiction : des chercheurs développent depuis des années des systèmes capables d'identifier des signes associés à des conditions psychiatriques à partir de l'activité numérique.

Une revue systématique de 2025 menée par Rizaldi et al. a examiné 40 études utilisant l'apprentissage automatique et le traitement du langage naturel. Ces travaux visaient à détecter la dépression, l'anxiété, le stress, le trouble de stress post-traumatique (TSPT), les idées suicidaires, les troubles alimentaires et le trouble obsessionnel-compulsif via les publications sur les réseaux sociaux. Les auteurs ont souligné des problèmes persistants liés à la validation, à l'étiquetage et à la généralisabilité entre différentes populations et plateformes.

Plus récemment, une revue de portée publiée en 2026 par He et al. a analysé 136 études couvrant la période de 2021 à janvier 2026. Ces recherches portaient sur les risques de détection de la santé mentale à partir de textes issus des réseaux sociaux. Le constat principal indique que la majorité des travaux identifient un risque basé sur des proxys plutôt qu'un diagnostic clinique. Autrement dit, les modèles détectent des schémas de risque, sans établir de certitude médicale.

Limites contextuelles et éthiques

Un schéma n'est pas une promesse. Le comportement humain ne se produit pas dans le vide ; l'environnement influence ce que nous disons, comment nous le formulons et quelle image de nous-mêmes nous présentons, notamment à travers des selfies désormais normalisés. Un clinicien formé peut intégrer le contexte façonnant ces patterns, examiner l'historique et la culture du patient, et interroger directement la personne sur sa situation actuelle.

À l'inverse, un algorithme peut identifier un motif sans comprendre le système vivant global ni les influences qui le déterminent. La difficulté majeure réside dans la frontière entre ce que nous révélons volontairement et ce que d'autres sont autorisés à inférer. Qui accède à ces informations ? Quels risques encourt une personne marquée comme étant à risque pour sa santé mentale ? Que se passe-t-il si un algorithme déduit un problème jamais divulgué, traité ou même reconnu par l'individu lui-même ?

Ces questions interrogent les protections applicables à des données qui ne constituent ni un diagnostic officiel, ni une révélation consciente. La technologie efface progressivement les limites entre sphère publique et privée, entre temps connecté et déconnecté, et surtout entre notre connaissance de nous-mêmes et la perception qu'en a l'algorithme. Une frontière saine ne se définit pas seulement par son existence, mais par ce qu'elle protège et ce qu'elle laisse passer.

Orwell n'avait probablement pas anticipé que des milliards de personnes paieraient volontairement pour être surveillées via leurs smartphones, cataloguant leurs activités quotidiennes et partageant leurs moments les plus vulnérables avec des machines qui les influencent. Près de huit décennies plus tard, le défi n'est plus simplement de protéger ce que nous choisissons de garder privé, mais de défendre la barrière autour de ce que les autres sont permis d'inférer.