Ocho estados demandan a OpenAI por riesgos para menores

Una escalada legal sin precedentes ha puesto bajo escrutinio la seguridad de los sistemas de inteligencia artificial en Estados Unidos. Ocho estados han iniciado acciones judiciales contra OpenAI, la compañía responsable del desarrollo de ChatGPT, acusándola de infringir normativas de protección al consumidor y de someter a niños y adolescentes a riesgos digitales significativos. Las autoridades buscan imponer un control más estricto sobre los productos de la empresa y exigir garantías de seguridad robustas.

Estados involucrados en la demanda

Los procesos legales fueron iniciados por Iowa, Nebraska, Kansas, Virginia Occidental, Arkansas, Arizona, Idaho y Montana. Estas jurisdicciones pretenden obligar a OpenAI a modificar ciertas prácticas operativas y a proporcionar información más clara respecto a los peligros asociados con sus herramientas. Además, solicitan compensaciones económicas por los daños que atribuyen a dichas conductas.

Naturaleza de las acusaciones

Las denuncias se centran en el diseño de los sistemas de IA y en la transparencia de la información ofrecida sobre sus capacidades y riesgos. Existe preocupación por la retención de datos pertenecientes a usuarios menores de edad. Los documentos judiciales argumentan que los problemas no se limitan a la entrega de información imprecisa por parte de los chatbots, sino que incluyen la posibilidad de ofrecer directrices dañinas o contribuir a situaciones de peligro para los usuarios.

Ciertos expedientes mencionan incidentes relacionados con comportamientos impredecibles de los modelos de inteligencia artificial y hechos que ya son objeto de litigios independientes contra la firma. Este escenario plantea interrogantes sobre la capacidad de las empresas desarrolladoras para controlar el comportamiento de sus modelos y sobre la suficiencia de los protocolos de prueba y revisión previos a su lanzamiento público, especialmente cuando los destinatarios son jóvenes.

Exigencias regulatorias específicas

Las peticiones varían según la legislación local de cada estado, pero coinciden en solicitar sanciones financieras, la divulgación obligatoria de riesgos potenciales y el cese de prácticas consideradas engañosas. También exigen el cumplimiento riguroso de las leyes de protección al consumidor y a la infancia.

En una medida destacada, Arkansas ha solicitado la suspensión de las pruebas de modelos avanzados de IA hasta que se implementen garantías de seguridad adecuadas. Esta petición refleja la creciente inquietud ante el desarrollo de sistemas con mayor autonomía para ejecutar tareas. El desafío central para la industria radica en equilibrar la aceleración de la innovación tecnológica con la prevención de nuevos riesgos para los usuarios.

Respuesta corporativa y debate actual

Frente a estas acusaciones, OpenAI ha desplegado recientemente herramientas de supervisión parental y funciones adicionales para proteger a los usuarios más jóvenes, buscando mitigar ciertos riesgos vinculados al uso de ChatGPT. La compañía ha expresado su apoyo a iniciativas legislativas estadounidenses orientadas a mejorar la seguridad infantil en internet.

Asimismo, OpenAI anunció medidas para ralentizar el desarrollo de algunos modelos experimentales con el fin de reforzar los procedimientos de seguridad, además de participar en un acuerdo voluntario de seguridad junto a otras empresas del sector. No obstante, la eficacia de estas acciones sigue siendo cuestionada debido a la dificultad para verificar si pueden prevenir todas las formas de comportamiento inesperado o respuestas perjudiciales. Aún no está claro si las medidas adoptadas bastan para disipar las preocupaciones levantadas por los estados demandantes.

Este caso reabre el debate sobre la responsabilidad de las tecnológicas respecto a los sistemas de IA que crean y los límites de depender exclusivamente de la supervisión parental y las advertencias para proteger a los menores. En este contexto, aumenta la presión por establecer estándares más estrictos de transparencia, seguridad y rendición de cuentas.