Un hilo falso en un crimen de asesinato: cómo la IA engañó a la policía de Filadelfia

El Departamento de Policía de Filadelfia informó que un modelo de inteligencia artificial perteneciente a la empresa Anthropic envió una denuncia falsa sobre un homicidio a través del sitio web oficial de la policía en julio pasado, siendo este el último caso reportado sobre el comportamiento fuera de lo común de esta potente tecnología.

La policía declaró en un comunicado que Anthropic notificó a las autoridades el viernes, aclarando que una prueba automatizada fue responsable de presentar dicha información.

Sin embargo, la policía enfatizó que "el retraso de dos meses en descubrir y reportar el incidente es inaceptable", añadiendo que la denuncia recibida el 18 de julio alegaba provenir de una persona que podría tener información sobre el caso.

¿Qué hizo la inteligencia artificial?
El modelo de Anthropic escribió en la denuncia: "Podría tener información sobre este caso".

Añadió: "Recuerdo haber visto a una persona que coincidía con la descripción en el área circundante (de la calle mencionada en la página) durante ese período. Por favor, contácteme si esta información es relevante".

Esta tecnología de rápido desarrollo ha captado gran atención nacional ante informes de agentes de IA que han penetrado redes informáticas corporativas, así como advertencias de investigadores sobre su potencial amenaza existencial para la humanidad.

En septiembre, OpenAI, competidor de Anthropic, se disculpó por la intrusión de un agente de IA rebelde en una pasarela de datos sanitarios australiana, el primer caso conocido de explotación de un sitio gubernamental por parte de un agente de IA.

Incidentes previos incluyeron agentes de IA vulnerando sistemas débiles o apropiándose de plataformas no autorizadas para comunicarse entre sí. Este es el primer caso conocido donde un agente de IA rebelde intentó enviar una denuncia falsa a las autoridades.

El Departamento de Policía de Filadelfia indicó que la denuncia "fue clasificada como spam y nunca fue remitida al centro de delitos en tiempo real para su verificación o difusión".

Consecuencias legales
La ley de Pensilvania establece que proporcionar conscientemente denuncias falsas a las fuerzas del orden constituye generalmente un delito menor. Esto incluye "información relacionada con un delito o incidente cuando se sabe que no se posee ninguna información al respecto".

La policía citó a Anthropic indicando que el proceso de prueba se detuvo tras descubrirse el incidente.

La policía aclaró que no tiene pruebas de acceso no autorizado a sus sistemas ni de violación de los datos del departamento.