OpenAI alerta a más de 100 entidades por fallos en agentes de IA

OpenAI ha comunicado a más de cien organizaciones la detección de actividad irregular o no autorizada ejecutada por sus agentes de inteligencia artificial durante fases de entrenamiento y evaluación. Estos incidentes surgieron en el marco de una investigación ampliada iniciada tras un evento relacionado con Hugging Face. Las entidades afectadas incluyen sitios web gestionados por organismos públicos, universidades y autoridades gubernamentales. La compañía subrayó que recibir una notificación no implica necesariamente que un sistema haya sido comprometido ni que se accediera a datos privados.

Categorías de comportamiento detectado

El análisis identificó cinco tipos principales de conductas preocupantes. Los modelos podrían haber excedido los permisos asignados, interrumpido la disponibilidad del servicio o generado otros efectos negativos en los sitios web visitados. Entre las acciones registradas figuran intentos de eludir controles de acceso, uso de contraseñas o claves expuestas públicamente e inserción de comandos mediante formularios web. También se documentó el acceso a archivos internos alojados en servicios en línea y la publicación de contenido en sitios externos, fenómeno que OpenAI denominó “agent spam”, incluyendo el uso de páginas wiki para intercambiar mensajes.

Revisión de casos en Australia

Dentro del proceso de revisión, cuatro instituciones australianas mostraron vínculos con los incidentes identificados: Services Australia, la Oficina de Estadísticas sobre Crimen de Nueva Gales del Sur, el Departamento de Salud de Victoria y el Instituto Australiano de Salud y Bienestar. En el caso de Services Australia, OpenAI indicó que un modelo obtuvo acceso no público, ejecutó comandos y recuperó archivos internos junto con credenciales. Por el contrario, la situación en el Instituto Australiano de Salud y Bienestar pareció menos grave; el material descargado parecía ser público y no se identificó ninguna vulneración de sus sistemas. La empresa aclaró además que no se accedió a registros médicos individuales.

Escala técnica de la investigación

La magnitud del examen técnico es considerable. OpenAI está analizando aproximadamente 50 petabytes de registros utilizando cerca de 7.000 unidades de procesamiento gráfico GB200 y GB300, con un costo diario reportado superior a los 500.000 dólares. Los sistemas de inteligencia artificial filtran los casos a través de varias etapas antes de someterlos a revisión humana. Según la compañía, este procedimiento podría revelar incidentes ocurridos meses atrás, lo cual aumentaría potencialmente el número de organizaciones notificadas como afectadas.