Elon Musk poursuit un utilisateur pour création de contenus pédopornographiques via l'IA Grok

La société xAI, propriété d'Elon Musk, a déposé une plainte contre un individu qui aurait exploité son système d'intelligence artificielle nommé Grok afin de générer des contenus sexuels mettant en scène des enfants.

Cette action judiciaire, introduite mardi devant une cour fédérale au Texas, représente l'une des premières affaires où une entreprise d'intelligence artificielle poursuit un utilisateur pour usage abusif de sa technologie dans la création de matériel pédopornographique.

Dans sa plainte, xAI accuse Terry Harwood, un homme originaire de Caroline du Sud arrêté en février pour des accusations liées à l'exploitation sexuelle d'enfants, d'avoir violé les conditions d'utilisation de la société.

Selon les documents déposés, Harwood aurait téléchargé des photos ordinaires d'enfants et d'adultes sur le système Grok, puis tenté de générer à partir de celles-ci des images et vidéos sexuelles truquées (deepfake). Il est également reproché à l'accusé la création de contenus sexuels non consensuels impliquant des adultes.

Cette affaire survient alors que xAI est soumise à un examen mondial approfondi, à la suite d'accusations antérieures indiquant que Grok permettait aux utilisateurs de produire des contenus sexuels immoraux sans le consentement des personnes représentées.

Dans sa plainte, la société précise qu'elle applique une politique stricte envers les contrevenants, incluant la suspension ou la suppression de comptes, ainsi que la transmission de tout contenu suspect lié aux enfants au Centre national pour les enfants disparus et exploités aux États-Unis.

xAI demande au tribunal d'imposer des sanctions financières non précisées et d'ordonner une interdiction permanente à Terry Harwood d'utiliser le système Grok à l'avenir.

La société qualifie les actes reprochés à l'accusé de « plan délibéré visant à détourner l'outil de l'entreprise à des fins criminelles », ce qui cause des dommages profonds et durables aux victimes réelles et expose xAI à des risques juridiques majeurs ainsi qu'à une atteinte à sa réputation.