10 dépôts
Mechanisms for saving in-memory data to non-volatile storage for recovery and capacity management.
Distinct from Disk Persistence: Candidates focus on specific data structures or cache eviction; a general persistence capability is needed.
Explore 10 awesome GitHub repositories matching data & databases · Disk Persistence. Refine with filters or upvote what's useful.
Ce projet est une collection complète de matériel pédagogique de programmation Python, y compris des tutoriels, des exercices et des exemples de code organisés. Il sert de programme d'apprentissage et de boîte à outils d'ingénierie logicielle, utilisant des Jupyter Notebooks pour combiner du code exécutable avec un texte éducatif descriptif. Le dépôt fournit des guides d'implémentation pratiques pour construire des applications de grand modèle de langage, telles que des systèmes de génération augmentée par récupération, des agents IA avec état et des flux de travail d'apprentissage automatique. Il se distingue en offrant une approche structurée des flux de travail de codage agentique, couvrant la distillation de la fenêtre de contexte, le routage de modèle agnostique au fournisseur et les sorties structurées imposées par schéma. Le matériel couvre un large éventail de capacités d'ingénierie logicielle, notamment la programmation asynchrone avec des files d'attente de tâches distribuées, le développement d'applications web avec des API REST et les flux de travail d'analyse de données. Il inclut également des ressources pour maîtriser la conception orientée objet, implémenter des pipelines CI/CD et appliquer des normes professionnelles de linting et de formatage.
Ships mechanisms to save project plans and agent memories into persistent files for use across different sessions.
Ignite est une grille de données en mémoire distribuée et une plateforme de calcul. Il fonctionne comme une base de données SQL distribuée et un moteur de stockage conçu pour stocker et traiter de grands jeux de données en RAM afin de minimiser la latence et augmenter la vitesse de calcul. Le système se distingue par un moteur de stockage à plusieurs niveaux qui gère le placement des données à travers la mémoire et le disque pour équilibrer l'accès haute vitesse avec une grande capacité. Il dispose d'une grille de calcul distribuée qui exécute une logique personnalisée directement sur les nœuds où résident les données pour réduire le trafic réseau. La plateforme fournit un large ensemble de capacités incluant la gestion de transactions ACID, l'interrogation SQL standard et les opérations clé-valeur. Elle supporte l'ingestion de données à haut volume via des flux réactifs et offre une intégration à travers de multiples langages de programmation, des pilotes de base de données standards et une API REST. Le système peut être déployé en tant que cluster distribué utilisant des conteneurs ou orchestré via Kubernetes. Le projet est écrit en Java et peut être installé via des archives binaires.
Saves data to a distributed disk store to ensure recovery and handle datasets exceeding physical memory.
Chronos est un agent d'ingénierie logicielle LLM et un modèle de débogage à l'échelle du dépôt conçu pour la correction autonome de bugs. Le système fonctionne comme un système de correction de bugs automatisé qui localise les défauts, raisonne sur les causes profondes et implémente des correctifs multi-fichiers validés. Le projet se distingue par un moteur de récupération guidé par graphe qui utilise un graphe de mémoire persistante pour naviguer dans les relations d'appel et les flux de données à travers de grands dépôts. Il emploie un flux de travail de débogage persistant qui indexe un historique des commits et des journaux pour reconnaître les modèles et éviter de répéter les erreurs précédentes à travers des cycles de débogage itératifs. Le système couvre l'analyse des causes profondes via la localisation de traces causales et le traçage de bugs basé sur la logique à travers plusieurs fichiers. Il fournit en outre une réparation de code autonome en synthétisant des correctifs et en les validant au sein d'un environnement sandbox itératif. L'intelligence du dépôt est gérée via une récupération contextuelle multi-sauts et l'ingestion multi-sources des journaux et des traces. Le système fournit une transparence sur les étapes de raisonnement et génère une documentation de débogage automatisée, incluant des évaluations des risques et des justifications pour chaque correctif appliqué.
Maintains a graph-indexed history of commits and logs to retain lessons learned and avoid repeating mistakes.
notion-py est une bibliothèque Python qui sert de client API non officiel pour interagir avec les pages et bases de données Notion. Il fonctionne comme un mappeur objet-relationnel qui traduit les tables et blocs de base de données Notion en classes Python pour une gestion structurée des données. Le projet dispose d'une couche de synchronisation réactive qui utilise le long-polling et des rappels pour maintenir les objets Python locaux à jour avec les changements distants. Il inclut un cache de données local thread-safe avec persistance sur disque pour réduire les requêtes réseau et un convertisseur pour transformer le texte Markdown en blocs de contenu Notion formatés et structures de texte riche. La bibliothèque couvre un large éventail de capacités, y compris la gestion programmatique des blocs de contenu, l'interrogation de base de données avec filtres et tri, et la gestion de l'identité utilisateur. Elle prend également en charge la sérialisation du texte riche en Markdown CommonMark tout en préservant les attributs LaTeX et de style.
Provides a thread-safe local data cache with disk persistence to reduce network requests and improve access speed.
Kvrocks est un magasin clé-valeur distribué et une base de données NoSQL compatible avec Redis. Il utilise un moteur de stockage RocksDB pour fournir une persistance basée sur disque, permettant un stockage de données haute capacité avec des coûts de mémoire réduits par rapport aux systèmes en mémoire. Le système fonctionne comme une base de données vectorielle et un moteur de recherche plein texte, prenant en charge les recherches de plus proches voisins sur des embeddings vectoriels et des requêtes de documents complexes via la correspondance de texte. Il emploie une architecture de cluster sans proxy avec un routage basé sur des slots pour distribuer les données et mettre à l'échelle la capacité sur plusieurs nœuds. La plateforme couvre un large éventail de capacités de gestion des données, y compris la gestion de documents JSON, les données de séries temporelles et le traitement de flux en temps réel. Elle fournit une recherche et une indexation avancées grâce à des requêtes géospatiales, une indexation secondaire et l'analyse de plans de requête, tout en offrant un sketching de données probabiliste pour une estimation efficace de la cardinalité et de l'appartenance en mémoire. Les fonctionnalités opérationnelles supplémentaires incluent des transactions atomiques, la messagerie pub/sub et l'isolation des données par namespace pour les environnements multi-locataires.
Implements disk-based persistence to allow high-capacity data storage beyond the limits of physical memory.
Docker-Proxy est un service de mise en cache et de miroir d'images de conteneurs auto-hébergé. Il fonctionne comme un proxy inverse conscient du registre qui intercepte les requêtes vers les registres distants, stockant les couches d'images sur des disques locaux pour accélérer les vitesses de récupération et réduire les dépendances vis-à-vis de la stabilité du réseau externe. Le service inclut une interface de gestion basée sur le web pour rechercher des images mises en miroir et surveiller l'état du service. Il prend en charge l'authentification basée sur les identifiants pour accéder aux images privées et contourner les limites de taux de pull anonymes imposées par les fournisseurs distants. Le proxy gère le trafic via le mappage de domaine et les certificats de sécurité tout en fournissant des contrôles pour l'éviction du cache et les limites d'accès IP. Le stockage peut être configuré pour persister sur le système de fichiers local ou rester dans une mémoire volatile. Le projet prend en charge le déploiement conteneurisé pour un auto-hébergement simplifié.
Provides local disk persistence for storing mirrored container image layers.
OpenSquilla est un framework d'orchestration d'agents LLM conçu pour coordonner des workflows IA multi-étapes et l'exécution d'outils via des graphes orientés acycliques (DAG). Il fonctionne comme un système centralisé pour gérer des packages de compétences spécialisés et exécuter des séquences de raisonnement complexes. Le projet se distingue par une passerelle de routage qui dirige les tâches vers différents fournisseurs d'IA en fonction de la complexité, du coût et de la performance. Il utilise un système de mémoire IA à plusieurs niveaux qui organise les connaissances de travail, épisodiques et sémantiques à l'aide d'embeddings locaux et de SQLite, ainsi qu'un bac à sable d'exécution sécurisé qui isole le code généré par l'agent via des profils de permission basés sur les risques. La plateforme couvre un large éventail de capacités, incluant le déploiement multicanal vers le web et les plateformes de messagerie, la planification automatisée des tâches via cron, et un pont Model Context Protocol pour se connecter à des outils externes. Elle fournit également des outils complets de surveillance et d'observabilité pour suivre les coûts en jetons, auditer les décisions d'exécution et gérer un catalogue de compétences réutilisables. Le système inclut des utilitaires en ligne de commande pour l'initialisation de l'espace de travail et la gestion du cycle de vie des compétences.
Saves and retrieves agent state and project memories to non-volatile storage for cross-session continuity.
Ce projet est un framework d'agent IA et de chatbot multicanal qui permet à une seule intelligence IA d'être déployée à travers diverses plateformes de messagerie, interfaces web et comptes email. Il fonctionne comme une passerelle IA multi-modèles, fournissant une interface unifiée pour router les requêtes entre différents fournisseurs de modèles de langage. Le système se distingue par ses capacités de planification autonome des tâches et de gestion des connaissances. Il peut décomposer des objectifs complexes en étapes d'exécution séquentielles en utilisant des outils externes et un navigateur headless, tout en extrayant simultanément des informations des conversations pour construire une base de connaissances structurée avec des graphes de relations visuels. La plateforme inclut un système de mémoire à plusieurs niveaux pour la récupération de contexte à long terme, un moteur de plugin de compétences dynamique pour étendre les fonctionnalités, et la capacité d'exécuter des commandes système à distance. Elle prend également en charge les workflows multimodaux, permettant l'échange d'images, de messages vocaux et de fichiers à travers différents canaux de communication. L'instance peut être gérée via une console web, une interface de commande basée sur le terminal, ou via des commandes slash dans le chat.
Uses keyword and vector retrieval to persist important information and ensure context continuity.
Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di
Maintains graph data on disk to ensure modifications are saved and accessible after session termination.
Godis is a Redis-compatible in-memory database and distributed key-value store. It functions as a replicated data store and distributed message broker, implementing the Redis protocol to manage complex data structures in memory. The system provides a geospatial indexing engine for proximity-based queries and distance calculations. It ensures high availability and data durability through master-slave replication and write-ahead logging. The project covers a wide range of capabilities including the management of strings, hash maps, lists, and sorted sets. It supports distributed data clusterin
Persists in-memory data to non-volatile disk storage using append-only files and snapshots.