Elon Musk demanda a usuario por crear pornografía infantil con IA Grok

La compañía xAI, propiedad de Elon Musk, interpuso una demanda judicial contra un individuo que utilizó su sistema de inteligencia artificial llamado "Grok" para producir material sexual infantil.

Esta demanda, presentada el martes ante un tribunal federal en Texas, es una de las primeras acciones legales de este tipo en las que una empresa de inteligencia artificial procesa a un usuario por el mal uso de su tecnología para crear contenido pornográfico con menores.

En la denuncia, xAI acusa a Terry Harwood, un hombre de Carolina del Sur detenido en febrero por cargos relacionados con la explotación sexual infantil, de violar los términos de servicio de la compañía.

Según la demanda, Harwood subió imágenes normales de niños y adultos al sistema Grok, intentando generar a partir de ellas videos e imágenes sexuales falsas (deepfake). Además, se le imputa la creación de contenido sexual no consensuado con adultos.

Este caso surge en un momento en que xAI enfrenta un escrutinio global intenso, tras acusaciones previas de que Grok permitía a usuarios generar contenido sexual inmoral sin el consentimiento de las personas representadas.

La empresa afirmó en la demanda que aplica medidas estrictas contra quienes infringen las normas, como suspender o cancelar cuentas y reportar cualquier material sospechoso relacionado con menores al Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos.

xAI solicitó al tribunal la imposición de multas económicas no especificadas y una orden judicial que prohíba de forma permanente a Harwood el uso del sistema Grok en el futuro.

En la denuncia, la empresa calificó las acciones del acusado como un "plan deliberado para armar la herramienta de la compañía con fines criminales", lo que causa daños profundos y permanentes a víctimas reales y expone a la compañía a riesgos legales y daños reputacionales.