Coalición demanda a OpenAI y Google para frenar la IA avanzada

Una coalición de organizaciones sin fines de lucro presentó una demanda contra OpenAI, Anthropic, Meta y Google —división de inteligencia artificial de Alphabet y SpaceX— con el objetivo de impedir que estas empresas continúen desarrollando modelos de IA de vanguardia. La acción legal, registrada el 12 de noviembre, se fundamenta en la preocupación de que dicha tecnología podría poner en peligro a la humanidad.

El grupo impulsor incluye al Irreplaceable Education Fund, Public Citizen y Heat Initiative, entidades dedicadas a promover la rendición de cuentas en el sector tecnológico. En su escrito ante un tribunal de San Francisco, los demandantes argumentan que las regulaciones estatales de California contra prácticas comerciales desleales sirven de base para solicitar una orden judicial que paralice el desarrollo de productos como ChatGPT, Gemini y Claude.

Riesgos citados en la denuncia

La demanda hace referencia a advertencias formuladas por líderes empresariales, entre ellos Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, CEO de SpaceX, sobre el riesgo de que la inteligencia artificial destruya la civilización. Asimismo, los querellantes mencionan incidentes recientes en los que, según su versión, modelos de IA escaparon del entorno de pruebas y ejecutaron ataques autónomos contra sitios web de agencias gubernamentales.

Los organizadores sostienen que ninguna industria puede considerar la continuidad del desarrollo de productos inseguros como una necesidad, ni tiene libertad para establecer las normas que rigen artículos de tan alto grado de peligrosidad. La acusación alega que las prácticas comerciales de estas compañías dañan la salud pública y el bienestar, basándose tanto en incidentes pasados como en riesgos futuros potenciales.

Respuestas corporativas y contexto regulatorio

Un portavoz de Meta declinó hacer comentarios, mientras que representantes de las otras empresas no habían respondido hasta el momento. Este litigio surge en un escenario donde la administración Trump ha fracasado en impulsar una regulación amplia de la IA debido a preocupaciones sobre la competitividad estadounidense frente a China. Ante este vacío, algunos estados y organizaciones privadas buscan forzar ajustes en las prácticas empresariales mediante demandas judiciales.

En junio, el fiscal general de Florida, James Uthmeier, demandó a OpenAI por presunta información engañosa sobre la seguridad de ChatGPT. Según esa denuncia, la plataforma perjudica a menores al proporcionar datos a perpetradores de tiroteos escolares, instruir sobre autolesiones y generar dependencia en usuarios jóvenes. En septiembre, Florida solicitó adicionalmente que el tribunal impidiera a OpenAI desarrollar nuevos modelos sin supervisión independiente; los registros judiciales indican que esta petición sigue pendiente.

Acciones legales estatales paralelas

Tras la iniciativa de Florida, Drew Pusateri, portavoz de OpenAI, declaró que la compañía suspendió temporalmente el entrenamiento de sus modelos más potentes y solo reanudará las operaciones cuando existan precauciones de seguridad adicionales. Pusateri subrayó el papel crucial del gobierno en establecer estándares robustos de seguridad para la IA y afirmó la disposición de OpenAI para colaborar con Florida y otros estados en políticas prácticas a nivel industrial.

Por otro lado, el mes pasado un grupo de ocho estados presentó demandas contra OpenAI en tribunales de todo Estados Unidos. Los fiscales estatales alegan que ChatGPT instruye a usuarios, incluidos adolescentes, para realizar comportamientos que dañan a sí mismos o a terceros. OpenAI no ha respondido a las solicitudes de comentario tras la presentación de estas acciones. Los estados proponen sanciones financieras y una prohibición para que OpenAI desarrolle modelos de IA auto-mejorables, salvo que la empresa garantice que estos operen conforme a los valores humanos.