Trump convoca a gigantes tecnológicos para evaluar capacidades cibernéticas de modelos de IA

La Casa Blanca organizará una reunión con empresas desarrolladoras de inteligencia artificial el martes, según confirmó un funcionario de la institución el lunes. El encuentro tiene como objetivo examinar un marco de trabajo recién finalizado destinado a revisar las capacidades cibernéticas de los modelos más avanzados del sector.

El marco voluntario impulsado por Trump

Un responsable declaró a la cadena CNBC que la sesión se centrará en el marco voluntario ordenado por el presidente estadounidense Donald Trump en junio. A principios de julio, Trump emitió una orden ejecutiva que establece un procedimiento mediante el cual los desarrolladores de IA pueden determinar si los modelos en fase de desarrollo cumplen los requisitos para ser clasificados como “modelos protegidos”.

Participantes y alcance del programa

Se espera la asistencia de representantes de Anthropic, OpenAI y Google. La empresa Anthropic, creadora del modelo de IA Claude, anunció el martes pasado la puesta a disposición pública de su versión más avanzada de la tecnología, aunque restringiendo su uso en ámbitos sensibles.

Acceso anticipado y evaluación de riesgos

Bajo este programa voluntario, los desarrolladores adheridos podrán otorgar al gobierno acceso a dichos modelos durante un período máximo de 30 días antes de su lanzamiento a otros socios de confianza. Según la administración, ese acceso temprano permitirá tanto a las autoridades como a las compañías tecnológicas evaluar si esos modelos poderosos son capaces de identificar vulnerabilidades en software o de ejecutar ciberataques sofisticados.

Entidades encargadas de la evaluación técnica

La orden ejecutiva asigna a la Secretaría del Tesoro, la Agencia de Seguridad Nacional y la Agencia de Ciberseguridad y Seguridad de la Infraestructura la responsabilidad de diseñar e implementar un proceso secreto de medición del rendimiento, orientado específicamente a valorar las capacidades cibernéticas avanzadas de los modelos de inteligencia artificial.

Este marco se presenta en un momento en que los principales desarrolladores de IA están sometiendo cada vez con mayor frecuencia a prueba la capacidad de sus sistemas para detectar y explotar de forma autónoma debilidades en la ciberseguridad.