Musk propone revisión mutua entre empresas de IA para prevenir riesgos

Elon Musk presentó durante su participación virtual en la cumbre All-In Summit un marco para garantizar la seguridad de los modelos avanzados de inteligencia artificial, en medio de crecientes preocupaciones sobre el riesgo de extinción humana derivado de su desarrollo descontrolado.

Musk, director ejecutivo de SpaceX, instó a las compañías líderes en IA a someterse a evaluaciones cruzadas: cada empresa debería probar los modelos de sus competidoras antes de su lanzamiento público. Según explicó, este mecanismo permitiría que los rivales identificaran y reportaran cualquier vulnerabilidad o amenaza potencial relacionada con la seguridad.

Durante el evento, celebrado en Los Ángeles entre el 13 y el 15 de septiembre, afirmó que el sistema podría implementarse de inmediato. “Todas las empresas de inteligencia artificial cuentan con conjuntos de pruebas para determinar si un modelo es capaz de diseñar armas biológicas o nucleares, o si actúa de forma deliberadamente engañosa. Que cada compañía aplique las pruebas de las demás es probablemente lo mejor que podemos hacer para protegernos”, señaló.

En lugar de dejar que cada firma supervise internamente su propio cumplimiento, el plan propuesto otorga a los competidores una función activa de verificación externa y alerta temprana ante cualquier hallazgo crítico. Musk destacó que las empresas deberían ofrecer acceso anticipado a la interfaz de programación de aplicaciones (API) de sus modelos antes del lanzamiento. Si una compañía no resuelve una vulnerabilidad detectada, los competidores podrían dar a conocer públicamente sus hallazgos, exponiéndola así a responsabilidades legales significativas.

La necesidad de inclusión china en el marco de revisión

Musk subrayó que la efectividad del sistema depende de la participación de China. “Probablemente debamos alcanzar un acuerdo con China. Será una revisión por pares, en la que todas las principales empresas de inteligencia artificial prueben mutuamente sus modelos antes de su lanzamiento”, indicó.

Comparación entre Anthropic y OpenAI

Sobre el nivel actual de atención a la seguridad, Musk afirmó: “Creo que Anthropic dedica más esfuerzo a la seguridad que OpenAI. Sin embargo, incluso Anthropic reconoce que tiene preocupaciones respecto a sus propios modelos”.

Contexto de llamados a ralentizar el desarrollo

Esta propuesta se inscribe dentro de un movimiento más amplio que aboga por moderar el ritmo de avance en IA. Musk respaldó, junto con Sam Altman, las demandas de Dario Amodei, director ejecutivo de Anthropic, de “ralentizar” el desarrollo tecnológico para asegurar que las medidas de seguridad puedan seguir su paso.