Experts alertent sur la radicalisation infantile via les vidéos IA

Des spécialistes tirent la sonnette d’alarme face à l’impact croissant des contenus vidéo générés par intelligence artificielle sur les enfants. Ces productions, largement diffusées sur les réseaux sociaux, apparaissent souvent inoffensives : elles mettent en scène des personnages anthropomorphiques représentant des fruits ou des légumes, dans des intrigues banales — triangles amoureux, licenciements, rivalités fraternelles — parfois teintées d’éléments érotisés.

Pourtant, une analyse récente menée par la Global Network on Extremism and Technology (GNET) souligne une évolution préoccupante. Un nombre croissant de ces vidéos s’inscrit désormais dans ce que le site Futurism qualifie de « violence fruitière et végétale alimentée par l’IA », illustrant explicitement des scènes de torture, de mutilation et d’autres actes de brutalité extrême.

Les auteurs du rapport insistent sur le fait que cette violence ne se limite pas à des stéréotypes abstraits. Certains contenus associent délibérément des personnages violents à des idéologies ou groupes précis : organisations criminelles, mouvements d’extrême droite ou courants nihilistes radicaux. Selon les analystes, ce type de matériel « renforce l’attrait pour la violence en tant que telle », favorisant ainsi la diffusion progressive, dans l’espace numérique, de ce qu’ils appellent la « poésie de la violence » auprès des jeunes utilisateurs.

Ce phénomène, ajoutent-ils, peut constituer une porte d’entrée vers la consommation accrue de contenus audiovisuels glorifiant la violence, exposant les adolescents à un processus silencieux de radicalisation en ligne. Le rapport précise que GNET est la branche de recherche du Forum mondial de l’internet contre le terrorisme, une entité financée et pilotée par des représentants du secteur technologique, déjà critiquée pour son rôle dans l’essor de la surveillance numérique.

L’incertitude demeure quant à la validité scientifique des liens directs entre ces contenus et la radicalisation infantile : le document de GNET repose principalement sur une analyse superficielle et cite, sans le signaler expressément, au moins un éditorial rédigé intégralement par une IA. Mais le cœur du problème n’est pas là. Ce qui pose question, c’est la capacité des fermes de bots à produire à l’aveugle, à une échelle vertigineuse, un flux infini de contenus algorithmiques — dont les enfants, en raison de leur immaturité médiatique, sont particulièrement vulnérables. Ce même flux peut servir à banaliser la violence, à falsifier des élections, à véhiculer des discours racistes ou à amplifier toute autre dérive sociale. Peu importe le thème abordé : c’est cette puissance d’action illimitée, inhérente à la génération automatisée de contenus, qui rend ce phénomène intrinsèquement dangereux.