Anthropic запустила Message Threads для ускорения Claude

Корпорация Anthropic объявила о запуске новой функциональности под названием Message Threads для платформы искусственного интеллекта Claude. Решение доступно в рамках публичной беты и ориентировано на разработчиков, создающих ИИ-агентов. Основная цель обновления — оптимизация скорости отклика ассистента во время длительных диалогов и выполнения сложных задач, требующих обработки больших массивов данных.

Механизм работы технологии

Функция меняет принцип передачи истории разговора моделям. Вместо повторной отправки всего логина с каждым новым запросом разработчик может передавать только последнее сообщение вместе с идентификатором предыдущего ответа модели. Такой подход позволяет системе обращаться к сохраненному в кэше контексту без необходимости пересылки всех старых сообщений по сети, что снижает время обработки запросов.

Показатели эффективности

Согласно данным компании, использование Message Threads способно сократить время до получения первого токена (Time-to-First-Token) примерно на 35%. Этот эффект наиболее заметен при обработке крупных запросов объемом от 500 тысяч до одного миллиона токенов. Улучшение критично для специалистов, использующих агентов для написания кода, управления компьютерами и анализа объемных документов или изображений.

Условия хранения и доступность

Внедрение функции не влияет на тарифы использования API или лимиты, так как модель Claude продолжает обрабатывать полный контекст при генерации ответа. Данные хранятся временно в оперативной памяти сервера; срок действия цепочки сообщений истекает через пять минут после последнего запроса. После этого разработчику необходимо повторно отправить историю беседы. Информация полностью удаляется из систем хранения в течение часа после завершения использования.

На текущий момент технология доступна через платформу Claude Platform, а также поддерживается сервисами Amazon Web Services и Microsoft Foundry. Кроме того, функция работает с моделями, управляемыми Anthropic на базе Google Cloud. По умолчанию она активна для большинства пользователей инструмента Claude Code. Однако возможность недоступна для аккаунтов с политикой нулевого сохранения данных (Zero Data Retention) или тех, кто обязан соблюдать стандарты HIPAA в отношении медицинской информации.