7 dépôts
Techniques for managing memory usage in agent workflows by caching interaction history.
Distinct from Response Caching: Distinct from general response caching: focuses on managing the agent's interaction history context window specifically.
Explore 7 awesome GitHub repositories matching data & databases · Interaction History Caching. Refine with filters or upvote what's useful.
Letta is a framework for building, deploying, and managing autonomous AI agents that maintain persistent state across long-term interactions. It provides a comprehensive suite of primitives for defining agents with configurable personas, modular memory blocks, and tool-use capabilities, enabling them to retain user preferences and conversation history over extended sessions. The platform distinguishes itself through its advanced memory management and orchestration capabilities. It allows agents to autonomously update their own memory, perform retrieval-augmented generation, and coordinate com
Archives interaction logs in persistent stores to ensure context is available after active window eviction.
SWE-agent is an autonomous software engineering platform designed to automate repository maintenance and issue resolution. By orchestrating language models to navigate codebases, diagnose software bugs, and apply fixes, the framework functions as an autonomous agent capable of executing shell commands, editing source code, and managing pull requests within isolated, containerized environments. The platform distinguishes itself through its focus on end-to-end task autonomy and observability. It features a robust trajectory logging system that records every thought, action, and environment obse
Controls memory usage by inserting manual markers into interaction history to improve response speeds and reduce data sent to language models.
Memori is an AI agent memory middleware platform designed to provide persistent, context-aware recall for language models. It functions as a non-intrusive layer that intercepts outbound model requests to automatically capture interaction history and execution traces, ensuring that agents maintain continuity across sessions without requiring modifications to existing application logic. The platform distinguishes itself through a dual-model storage architecture that maintains information as both structured relational primitives for precise fact retrieval and rolling narrative summaries for situ
Stores user messages and assistant responses as durable memory to ensure continuity across future sessions.
Ce projet est une collection complète de matériel pédagogique de programmation Python, y compris des tutoriels, des exercices et des exemples de code organisés. Il sert de programme d'apprentissage et de boîte à outils d'ingénierie logicielle, utilisant des Jupyter Notebooks pour combiner du code exécutable avec un texte éducatif descriptif. Le dépôt fournit des guides d'implémentation pratiques pour construire des applications de grand modèle de langage, telles que des systèmes de génération augmentée par récupération, des agents IA avec état et des flux de travail d'apprentissage automatique. Il se distingue en offrant une approche structurée des flux de travail de codage agentique, couvrant la distillation de la fenêtre de contexte, le routage de modèle agnostique au fournisseur et les sorties structurées imposées par schéma. Le matériel couvre un large éventail de capacités d'ingénierie logicielle, notamment la programmation asynchrone avec des files d'attente de tâches distribuées, le développement d'applications web avec des API REST et les flux de travail d'analyse de données. Il inclut également des ressources pour maîtriser la conception orientée objet, implémenter des pipelines CI/CD et appliquer des normes professionnelles de linting et de formatage.
Provides techniques for summarizing and compressing interaction histories to optimize model context window usage.
Ce projet est un framework d'agent IA et de chatbot multicanal qui permet à une seule intelligence IA d'être déployée à travers diverses plateformes de messagerie, interfaces web et comptes email. Il fonctionne comme une passerelle IA multi-modèles, fournissant une interface unifiée pour router les requêtes entre différents fournisseurs de modèles de langage. Le système se distingue par ses capacités de planification autonome des tâches et de gestion des connaissances. Il peut décomposer des objectifs complexes en étapes d'exécution séquentielles en utilisant des outils externes et un navigateur headless, tout en extrayant simultanément des informations des conversations pour construire une base de connaissances structurée avec des graphes de relations visuels. La plateforme inclut un système de mémoire à plusieurs niveaux pour la récupération de contexte à long terme, un moteur de plugin de compétences dynamique pour étendre les fonctionnalités, et la capacité d'exécuter des commandes système à distance. Elle prend également en charge les workflows multimodaux, permettant l'échange d'images, de messages vocaux et de fichiers à travers différents canaux de communication. L'instance peut être gérée via une console web, une interface de commande basée sur le terminal, ou via des commandes slash dans le chat.
Periodically summarizes conversation history to build a structured knowledge base with visual relationship graphs.
Atmosphere is a Java-based framework for building and coordinating AI agents. It provides a real-time transport layer for streaming data via WebSockets, SSE, gRPC, and WebTransport, alongside a multi-agent orchestration framework for managing agent fleets through sequential, parallel, and graph-based execution workflows. The project features a durable workflow engine that persists agent state as snapshots, allowing long-running tasks to survive system restarts and incorporate human-in-the-loop approvals. It also implements Model Context Protocol servers to expose tools, resources, and prompt
Tracks stateful turns using stable IDs and event logs to retrieve history without resending all turns.
SimpleMem is a persistent memory system for AI assistants designed to maintain context across different user chat sessions. It functions as a memory server and multimodal vector database that stores and retrieves information from text, images, audio, and video. The project features a context compression engine that distills interaction histories into compact units to reduce token consumption. It utilizes a distributed memory orchestrator and worker-thread parallel processing to reduce latency when querying large-scale dialogue datasets. The system implements a hybrid indexing approach combin
Compresses multimodal interaction histories into compact memory units to reduce token usage and eliminate redundancy.