Meta Muse crea perfiles de terceros sin su consentimiento

Apenas un mes después de su lanzamiento, los expertos han comenzado a examinar el funcionamiento interno de Muse, el nuevo agente de inteligencia artificial de Meta. La herramienta permite compartir abiertamente sus archivos internos y instrucciones cuando los usuarios lo solicitan, lo que ha permitido vislumbrar sus mecanismos operativos. Según Wired, uno de los aspectos más inquietantes es un proceso horario que ordena a Muse crear y actualizar una página para cada persona en la vida del usuario.

Recopilación de datos de terceros

Karan Joshi, investigador independiente en seguridad de IA, extrajo un conjunto de instrucciones y prompts del sistema a través de la interfaz de chat habitual de la aplicación y compartió los hallazgos con Wired. De forma separada, The Future Society publicó instrucciones del sistema obtenidas de una copia exportada de la máquina virtual de Muse. Joshi declaró a Wired que, basándose en estos datos, parece que la empresa busca comprender las relaciones del usuario con personas reales. El experto calificó este intento de conocer al usuario como un amigo de bastante escalofriante.

Las nuevas revelaciones llegan semanas después de que Meta lanzara Muse el 8 de septiembre como un agente personal capaz de gestionar tareas como enviar correos electrónicos, reservar viajes, realizar compras y seguir objetivos. Para ejecutar estas funciones, los usuarios otorgan acceso a una amplia gama de aplicaciones y cuentas. Desde entonces, la aplicación ha escalado hasta la primera posición en la lista de aplicaciones gratuitas para iPhone de Apple en Estados Unidos.

Preocupaciones por privacidad y seguridad

Las inquietudes sobre privacidad y seguridad surgieron casi de inmediato. En septiembre, Amazon bloqueó el acceso de Muse a su sitio de compras, argumentando que Meta no había notificado previamente a la compañía que el agente accedería a su tienda en línea. Amazon también expresó preocupaciones sobre cómo Muse maneja las credenciales de los clientes y los datos de las cuentas.

Además, Meta parcheó recientemente una vulnerabilidad de día cero en la versión para Mac de Muse. Este fallo permitía que malware ya activo en el ordenador del usuario secuestrara el agente y aprovechara los permisos previamente concedidos. Ahora se conoce con mayor precisión cuánto registra Muse sobre los usuarios y las personas de su entorno, incluso si estas últimas no utilizan la aplicación.

Detalles de los perfiles relacionales

Según las instrucciones del sistema publicadas por The Future Society, estas páginas de relación pueden incluir el nombre de la persona, su conexión con el usuario de Muse, temas recurrentes como una mudanza próxima o un objetivo de ahorro, y fechas importantes como cumpleaños y aniversarios. Muse también mantiene un historial de la relación, incluyendo eventos o hitos, así como información sobre la cercanía entre el usuario y esa persona, los fundamentos de su vínculo, sus interacciones y lo que la relación parece necesitar en ese momento.

Un portavoz de Meta indicó a Gizmodo mediante un comunicado enviado por correo electrónico que cualquier agente necesita contexto sobre el usuario y sus contactos para ser útil y ayudar a alcanzar sus objetivos. El vocero explicó que Muse recopila esta información basada en datos públicos y en lo que el usuario ha elegido compartir. Puso como ejemplo recordar que la persona que envió una factura es el fontanero contratado anteriormente para un trabajo en el baño, o qué flores dijo gustarle más al cónyuge. El representante añadió que la información se almacena en la máquina virtual segura dedicada de cada usuario, la cual, según Meta, no puede ser accedida por los agentes de otros usuarios.