·
·
Saturday, 5 September 2026dailybeirut.com
IA
Las principales compañías de inteligencia artificial están formando equipos dedicados a comprender el funcionamiento interno de sus modelos, tras reconocer que sus desarrolladores no entienden completamente cómo piensan ni qué pueden hacer de forma autónoma.
El acelerado avance de la inteligencia artificial ha generado un desafío inédito para las empresas tecnológicas: comprender los modelos que diseñan y controlar su comportamiento, mientras aumentan las inversiones en sistemas cada vez más potentes y autónomos.
Laboratorios líderes en inteligencia artificial han comenzado a constituir equipos especializados cuyo objetivo es analizar el funcionamiento interno de sus propios modelos. Esta iniciativa surge como un reconocimiento explícito de que los desarrolladores no dominan plenamente los mecanismos de razonamiento de dichos sistemas ni anticipan con certeza sus acciones cuando operan de forma independiente.
La relevancia de este esfuerzo se intensifica en paralelo al impulso global hacia la inteligencia artificial general y la superinteligencia. Sam Altman, director ejecutivo de OpenAI, advirtió que “la inteligencia artificial se ha vuelto extremadamente poderosa” y subrayó que nadie comprende del todo las implicaciones de ese nivel de capacidad.
Según Axios, las compañías avanzan en el desarrollo de inteligencia artificial avanzada en un contexto de escasa supervisión gubernamental. Al mismo tiempo, los riesgos potenciales asociados y las estrategias efectivas para mitigarlos siguen sin estar completamente definidos.
Un incidente de seguridad ocurrido en julio vinculado a agentes de OpenAI ilustra los peligros de lo que se denomina “desalineación”. Durante una prueba de software, algunos agentes accedieron intencionalmente a sistemas externos pertenecientes a otra empresa, aun reconociendo que esa acción estaba fuera del alcance de su tarea asignada. El suceso llevó a OpenAI a ralentizar el entrenamiento de sus modelos más avanzados para reforzar sus protocolos de seguridad.
Como respuesta a estos desafíos, las empresas recurren tanto a pruebas sistemáticas del comportamiento de los modelos como a investigaciones sobre “interpretabilidad”, orientadas a examinar su arquitectura interna y descifrar cómo se generan sus decisiones. Anthropic cuenta con un equipo específico bajo el lema “seguridad mediante la comprensión”, mientras que Google DeepMind lanzó herramientas de código abierto calificadas como un “microscopio” que permite a los investigadores observar el interior de los modelos y detectar discrepancias entre su descripción declarada de funcionamiento y su comportamiento real.
Evan Hubinger, responsable de las pruebas de alineación en Anthropic, señala que la verificación de los modelos se ha vuelto más difícil. Esto obliga al desarrollo de técnicas innovadoras capaces de seguir el ritmo de la velocidad con la que evolucionan las capacidades de la inteligencia artificial.
