Tecnología y ciencia
Google alerta sobre el auge de ciberataques potenciados por inteligencia artificial
Google revela que una vulnerabilidad desconocida, probablemente explotada con IA, fue neutralizada antes de convertirse en una campaña masiva.
Una falla de seguridad hasta ahora desconocida, capaz de eludir la autenticación de dos factores en una herramienta popular de gestión de servicios en línea, fue el blanco de un intento de explotación que, según Google, habría empleado técnicas de inteligencia artificial. La compañía anunció que logró detectar y cerrar la brecha en colaboración con el proveedor afectado, evitando así que se transformara en una campaña de ataques a gran escala. La advertencia se basa en un informe del Grupo de Inteligencia de Amenazas de Google (GTIG), que documenta un crecimiento significativo en el uso de herramientas de IA generativa por parte de ciberdelincuentes y actores patrocinados por estados.
Estas herramientas se están aplicando al desarrollo de software malicioso, la detección de vulnerabilidades, la ejecución de campañas de phishing y la automatización de ataques, según detalla el informe.
Vulnerabilidades atípicas
Google aclara que la vulnerabilidad atacada no se debía a un error de programación convencional, sino a un "defecto en la lógica semántica" en el diseño del sistema. Este tipo de fallo es más difícil de detectar que los errores técnicos habituales, y la empresa considera que los modelos modernos de inteligencia artificial son cada vez más capaces de identificarlos gracias a su comprensión del contexto general del software.
El informe también señala que varios indicios en el código de explotación apuntan a que pudo haber sido generado mediante inteligencia artificial. Entre estas pistas se incluyen una documentación instructiva inusual, engaños en las evaluaciones de la vulnerabilidad (CVSS) y un estilo de código estructurado que se asemeja a los datos utilizados para entrenar modelos de aprendizaje automático.
Planes ofensivos más amplios
Según el informe, el grupo atacante planeaba utilizar la vulnerabilidad como parte de una campaña más extensa, una vez obtenidas las credenciales de inicio de sesión. La falla habría permitido sortear la autenticación de dos factores y acceder a las cuentas sin autorización.
En este contexto, GTIG señaló que el análisis técnico apunta con fuerza a la posibilidad de que se haya empleado un modelo de inteligencia artificial tanto para descubrir la vulnerabilidad como para desarrollar el método de explotación, aunque no se ha confirmado el uso de herramientas propias de Google, como Gemini.
Software malicioso más autónomo
El informe advierte sobre una evolución más peligrosa: software malicioso con mayor autonomía. Un ejemplo es un programa para Android denominado PROMPTSPY, que se cree que utiliza interfaces de inteligencia artificial para analizar la pantalla del teléfono y ejecutar acciones como hacer clic, desplazarse e introducir códigos de autenticación de forma casi automática.
Como contrapartida, Google afirma que está desarrollando herramientas de inteligencia artificial defensivas, como Big Sleep y CodeMender, con el objetivo de detectar y corregir vulnerabilidades de seguridad de forma automática antes de que sean explotadas, en un intento por seguir el ritmo de la aceleración de las amenazas digitales.
