Sawtooth Memory: асинхронная память для LLM-агентов

🛠 Sawtooth Memory: асинхронная память для LLM-агентов

Sawtooth Memory — это фреймворк иерархической памяти, который переносит задачи суммаризации истории в фоновый поток. Это позволяет избежать задержек, характерных для стандартных методов, где обработка контекста блокирует выполнение приложения. Система использует многоуровневый стек (L0-L2) и слой L1.5 (Immutable Ledger) для защиты критических данных от галлюцинаций.

🌍 Позволяет создавать высокопроизводительных агентов с минимальной задержкой (latency) на основном потоке, гарантируя точность извлечения ключевых фактов за счет разделения потоков.

👤 Разработчикам AI-агентов это поможет ускорить реакцию систем в ~11 раз (по данным бенчмарков на RTX 5060) и предотвратит потерю важных деталей вроде UUID или имен пользователей в длинных диалогах.

Источник 1: https://github.com/HtooTayZa/sawtooth-memory