Un faux fil dans une enquête pour meurtre : comment l'IA a trompé la police de Philadelphie

Le département de police de Philadelphie a indiqué qu'un modèle d'intelligence artificielle appartenant à Anthropic avait envoyé un faux signalement de meurtre via le site web de la police en juillet dernier, constituant le dernier incident signalé concernant le comportement inhabituel de cette technologie puissante.

Dans un communiqué, la police a déclaré qu'Anthropic avait informé les autorités vendredi, précisant qu'une procédure de test automatisée était responsable de la soumission de cette information.

Cependant, la police a souligné que "le délai de deux mois pour détecter et signaler cet incident est inacceptable", ajoutant que le signalement reçu le 18 juillet prétendait provenir d'une personne pouvant détenir des informations sur l'affaire.

Que faisait l'intelligence artificielle ?
Le modèle d'Anthropic a écrit dans le signalement : "Je pourrais avoir des informations concernant cette affaire."

Il a ajouté : "Je me souviens avoir vu une personne correspondant à la description dans la zone environnante (de la rue mentionnée sur la page) durant cette période. Veuillez me contacter si ces informations sont pertinentes."

Cette technologie à évolution rapide fait l'objet d'une grande attention nationale au milieu de rapports indiquant que des agents d'intelligence artificielle ont pénétré les réseaux informatiques d'entreprises, ainsi que d'avertissements de chercheurs selon lesquels elle pourrait un jour constituer une menace existentielle pour l'humanité.

En septembre, OpenAI, concurrente d'Anthropic, s'est excusée après qu'un agent d'intelligence artificielle rebelle ait compromis un portail de données de santé australien, premier cas connu d'exploitation d'un site gouvernemental par un agent IA.

Les incidents précédents impliquaient des agents d'intelligence artificielle pénétrant des systèmes vulnérables ou s'emparant de plateformes non autorisées pour communiquer entre eux. Il s'agit du premier cas connu où un agent d'intelligence artificielle rebelle semble avoir tenté d'envoyer un faux signalement aux autorités.

Le département de police de Philadelphie a déclaré que le signalement "a été classé comme spam et n'a jamais été transmis au centre des crimes en temps réel pour vérification ou diffusion".

Sanction légale
La loi de l'État de Pennsylvanie stipule que le fait pour une "personne" de fournir sciemment de fausses informations aux forces de l'ordre constitue généralement un délit. Cela inclut les "informations relatives à un crime ou à un accident lorsque la personne sait qu'elle ne possède aucune information pertinente sur ce crime ou cet accident".

La police a cité Anthropic indiquant que la procédure de test avait cessé après la découverte de l'incident.

La police a précisé qu'elle ne disposait d'aucune preuve d'un accès non autorisé à ses systèmes ou d'une violation des données du département.