Anthropic lance Message Threads pour accélérer Claude

Anthropic a annoncé le lancement d'une nouvelle fonctionnalité baptisée Message Threads pour sa plateforme d'intelligence artificielle Claude. Cette innovation, actuellement disponible en version bêta publique, vise à optimiser la réactivité de l'assistant lors des échanges prolongés et des tâches complexes impliquant le traitement de volumes importants de données.

La cible principale reste les développeurs qui intègrent les outils Claude pour créer des agents intelligents. L'objectif est de diminuer significativement le délai avant l'affichage de la première réponse, un gain particulièrement utile durant les sessions de codage étendues ou lorsqu'il s'agit d'analyser des documents volumineux et des images.

Fonctionnement technique de l'optimisation

Le mécanisme repose sur une modification de la transmission de l'historique des conversations aux modèles. Au lieu de renvoyer l'intégralité du dialogue avec chaque requête, le développeur peut désormais soumettre uniquement le dernier message accompagné de l'identifiant de la réponse précédente du modèle.

Cette approche permet au système d'accéder au contexte mémorisé temporairement sans transiter par le réseau l'ensemble des messages antérieurs. Le résultat direct est une réduction du temps nécessaire au traitement des demandes.

Réduction notable du temps de latence

L'entreprise précise que l'utilisation de Message Threads peut abaisser le temps jusqu'au premier jeton (Time-to-First-Token) d'environ 35 %. Ce chiffre concerne spécifiquement les requêtes massives oscillant entre 500 000 et un million de jetons.

Cette amélioration revêt une importance cruciale pour les professionnels exploitant des agents IA pour des missions exigeantes, telles que la génération continue de code, la commande d'ordinateurs ou l'examen de fichiers multimédias de grande taille.

Gestion des données et compatibilité

Anthropic souligne que cette évolution n'entraîne aucune modification des tarifs de l'interface de programmation (API) ni des limites d'utilisation. Le modèle Claude conserve toujours la capacité de traiter l'intégralité du contexte conversationnel lors de la préparation de la réponse finale.

Les échanges sont stockés temporairement dans la mémoire du serveur. La validité de la chaîne de messages expire cinq minutes après la dernière interaction. Passé ce délai, le développeur doit transmettre à nouveau l'historique complet. Les données ne sont pas enregistrées sur les supports de stockage traditionnels et sont effacées définitivement une heure après leur dernier usage.

La fonctionnalité est accessible via la plateforme Claude, ainsi que par les services Amazon Web Services et Microsoft Foundry. Elle prend également en charge les modèles opérés par Anthropic sur Google Cloud. Bien qu'elle soit activée par défaut pour la majorité des utilisateurs de Claude Code, elle reste indisponible pour les comptes appliquant des politiques de rétention zéro des données (Zero Data Retention) ou soumis aux normes HIPAA relatives aux informations médicales.