Zuckerberg rechaza coordinación de IA y prioriza la seguridad interna

Mientras los principales laboratorios de inteligencia artificial advierten sobre riesgos inminentes y solicitan una cooperación sectorial, Mark Zuckerberg considera innecesario este tipo de coordinación. El directivo de Meta sostuvo en una entrevista con la periodista Joanna Stern que no se requiere un mecanismo conjunto para evitar errores graves. Según su perspectiva, cada entidad debe dedicar el tiempo interno necesario para garantizar avances seguros cuando detectan problemas.

Esta postura contrasta con las recientes iniciativas de Anthropic, OpenAI y Google DeepMind. Tras un verano marcado por incidentes de agentes de IA autónomos coordinando ataques informáticos, Dario Amodei publicó un ensayo pidiendo una desaceleración de la investigación. Sam Altman y Elon Musk respaldaron esta idea, alertando sobre posibles resultados catastróficos como el bioterrorismo si el desarrollo continúa a su ritmo actual. Amodei instó al gobierno estadounidense a mediar o facilitar dicha pausa coordinada. Poco después, Chris Lehane, responsable global de políticas de OpenAI, reveló semanas de colaboración con DeepMind y Anthropic en materia de seguridad.

La visión de Zuckerberg sobre la alineación

Zuckerberg defiende que no hace falta intervención gubernamental ni respuestas coordinadas, ya que existe un incentivo comercial para asegurar la fiabilidad del producto. Afirmó que la alineación es la capacidad más crítica para crear herramientas útiles para muchas personas. Como ejemplo, mencionó que Meta retrasó el lanzamiento de Muse durante unos meses para mejorar su calidad, decisión que calificó como correcta tanto para los usuarios como para la empresa. Sugirió que otros laboratorios deberían posponer nuevos lanzamientos si existen dudas sobre la seguridad.

Sin embargo, el historial de Meta en privacidad y seguridad de la IA presenta serias controversias. El año pasado, informes de Reuters señalaron que la compañía aprobó herramientas de IA para mantener chats sensuales con menores y reforzar creencias racistas. En otro caso reportado por la misma agencia, un chatbot coqueto llamado "Big sis Billie" convenció a un jubilado de visitar un apartamento inexistente en Nueva York, donde falleció durante el trayecto. Además, se acusó a Meta de crear bots que imitaban a celebridades como Taylor Swift sin su consentimiento.

Incidentes recientes y demandas legales

Más recientemente, Meta admitió que uno de sus modelos comprometió un sistema externo durante pruebas de ciberseguridad, similar al incidente de Hugging Face que reavivó el debate sobre la seguridad de la IA. A principios de este mes, usuarios demandaron a la empresa alegando que Meta Glasses capturó imágenes íntimas y las envió a contratistas en Kenia para entrenar la IA. Esta situación fue destapada inicialmente por dos periódicos suecos, y Meta atribuyó la responsabilidad a Sama, la firma contratista.

A pesar del rechazo de Zuckerberg a la coordinación, el resto del sector avanza hacia la creación de estándares comunes. Un informe de The Information indica que Google, OpenAI y Anthropic están estableciendo un nuevo organismo de seguridad tentativamente llamado Standards Frontier for AI (SAFA). Su lanzamiento está previsto para finales de 2026 o principios de 2027. Se ha contactado a Sriram Krishnan, ex socio general de Andreessen Horowitz y asesor senior de política de IA de Trump, para liderar la iniciativa.

Estructura propuesta para SAFA

El futuro organismo apoyaría a organizaciones terceras que prueben modelos de IA antes de su despliegue, establecería cualificaciones para auditores independientes y definiría mecanismos de reporte de incidentes. Algunos miembros del grupo de trabajo consideran que la organización podría realizar sus propias pruebas de seguridad y capacidades. Paralelamente, OpenAI respalda el proyecto de ley bipartidista FRONTIER Act en Washington, que crearía un marco federal para la seguridad de la IA y exigiría auditorías de verificadores independientes.

The Information sugiere que SAFA podría modelarse según la Financial Industry Regulatory Authority (FINRA), una organización autorregulatoria para corredores de valores que opera bajo la supervisión de la Comisión de Bolsa y Valores. Fuentes cercanas al asunto citadas por la publicación indican que hubo interés previo en la administración Trump por un cuerpo similar para la IA, pero se descartó una orden ejecutiva debido a la oposición de líderes del sector, incluido Zuckerberg.