11 dépôts
Tools for transferring data between different persistence backends.
Distinct from Pluggable Storage Backends: Candidates focus on configuration and adapters, but not the actual process of migrating data between backends.
Explore 11 awesome GitHub repositories matching data & databases · Storage Migration. Refine with filters or upvote what's useful.
kops is a Kubernetes cluster provisioner and lifecycle manager designed to automate the creation, maintenance, and destruction of production-grade clusters on cloud infrastructure. It functions as a declarative infrastructure manager, synchronizing the live state of a cluster with versioned manifests stored in remote object storage to ensure idempotent operations. The project distinguishes itself by offering comprehensive automation for the entire cluster lifecycle, including high-availability control plane deployment, incremental rolling updates, and automated version upgrades. It also serve
Moves cluster configuration and state files between different cloud storage buckets or providers.
tdl is a command-line tool for Telegram account automation, media management, and data archiving. It provides a programmatic interface for downloading and uploading files, forwarding messages, and exporting chat history, member lists, and media into structured JSON files. The project distinguishes itself through a session management system that isolates multiple account identities using unique namespaces. It features expression-based routing for messages and uploads, allowing users to direct content to specific destination chats using custom logic and dynamic caption generation. The tool cov
Transfers existing stored data from one storage backend to another.
Cronicle is a distributed job scheduler that replaces traditional cron with a browser-based management interface. It runs scheduled tasks across a cluster of servers with automatic failover, using a custom cron parser that intersects day-of-month and day-of-week constraints when both are specified. The system executes jobs through a plugin framework that runs command-line scripts in any language, communicating via JSON over standard input and output. The scheduler provides a web-based real-time dashboard for monitoring running jobs with live logs, resource usage charts, and progress updates.
Reads all storage records from the current location and writes them to a new location or engine.
Cortex is an open-source, horizontally scalable metrics platform that ingests, stores, and queries Prometheus-compatible time-series data with multi-tenant isolation. It accepts metrics via Prometheus remote write and OpenTelemetry, executes PromQL queries against both recent and historical data, and provides a Prometheus-compatible alerting and recording rule engine with an integrated Alertmanager. The system is built as a set of independently scalable microservices that use hash-ring-based sharding, gossip-based cluster membership, and tenant-aware object storage to distribute workloads acro
Switches a cluster's storage backend from chunks to blocks by gradually replacing ingesters.
Kvrocks est une base de données NoSQL basée sur disque et un magasin clé-valeur distribué qui exploite le moteur de stockage RocksDB pour persister de grands jeux de données sur disque physique. Il est conçu pour être une base de données compatible avec Redis, utilisant le protocole de communication standard de Redis pour assurer l'interopérabilité avec les bibliothèques clientes et les outils existants. Le projet se distingue en combinant un modèle de stockage persistant sur disque avec des capacités de récupération avancées, notamment la recherche vectorielle pour les requêtes k-plus proches voisins, l'indexation de recherche plein texte et l'exécution de requêtes géospatiales. Il prend en charge le clustering distribué avec une distribution des données basée sur des slots et une gestion de la topologie pour permettre une mise à l'échelle horizontale et une haute disponibilité. Le système couvre un large éventail de types de stockage de données, y compris les documents JSON, les flux, les ensembles triés, les hash maps et les bitmaps. Il fournit des outils complets de gestion des données tels que des transactions atomiques, la réplication basée sur les logs et des structures de données probabilistes pour l'estimation de cardinalité et la vérification d'appartenance. De plus, il inclut des scripts côté serveur, la messagerie pub/sub et une surveillance détaillée de la santé du serveur et des performances du moteur de stockage.
Moves datasets between memory-resident and disk-based storage backends.
wal-g est un outil de sauvegarde cloud de base de données et un archiveur de journaux de transactions (write-ahead log) conçu pour la reprise après sinistre et la récupération à un instant T. Il archive l'état de la base de données et les journaux de transactions vers des fournisseurs de stockage cloud pour assurer la durabilité des données à long terme. Le projet fournit un gestionnaire pour compresser, chiffrer et élaguer les sauvegardes de base de données stockées dans le stockage objet cloud. Il permet spécifiquement la restauration d'une base de données à un horodatage spécifique en récupérant les sauvegardes de base et en rejouant les journaux de transactions. Les capacités de l'outil couvrent la sauvegarde et la restauration multi-moteurs, incluant la génération de sauvegardes complètes et delta. Il gère le cycle de vie de la sauvegarde via le suivi d'inventaire et des politiques d'élagage automatisées, et inclut des utilitaires pour vérifier l'intégrité des archives de journaux et des fichiers de table. Un proxy local est disponible pour émuler les API de stockage cloud pour tester les opérations de sauvegarde et de restauration.
Moves or copies database backups and logs between different configured storage backends.
Ombi est un système de gestion de requêtes multimédia qui coordonne la découverte de contenu entre les utilisateurs, les serveurs multimédias et les gestionnaires de téléchargement. Il agit comme une couche middleware pour automatiser le processus de demande, d'approbation et d'acquisition de films, musiques et émissions de télévision. Le projet se différencie en agissant comme une couche d'intégration qui synchronise les bibliothèques et les comptes utilisateurs sur plusieurs instances de serveur multimédia. Il dispose d'un orchestrateur de requêtes de contenu qui prend en charge l'approbation automatique basée sur le vote et la capacité d'importer des requêtes actives directement depuis des listes de surveillance externes. La plateforme couvre un large éventail de capacités, y compris des passerelles de notification multicanaux pour les alertes via Discord, Telegram et email, et un contrôle d'accès basé sur les rôles pour gérer les permissions des utilisateurs. Il fournit des outils complets pour l'administration de serveur multimédia, la gestion de flux de travail automatisés et une intégration d'identité flexible via OAuth et des fournisseurs tiers. Le système prend en charge le stockage de données persistant utilisant SQLite, MySQL ou MariaDB.
Moves existing application data from a local SQLite file to a MySQL or MariaDB server.
Flipper est un système de gestion de fonctionnalités (feature toggle) et une bibliothèque pour les applications Ruby. Il permet de gérer les fonctionnalités d'une application en les activant ou en les désactivant sans avoir besoin de déployer de nouveau code. Le système fournit un mécanisme pour contrôler l'exécution du code via des états booléens, un accès basé sur les acteurs et des déploiements progressifs basés sur des pourcentages. Il inclut une interface de gestion pour modifier l'état des flags en temps réel et un registre central pour suivre les capacités disponibles. Le projet couvre un large éventail de capacités opérationnelles, notamment l'isolation des flags par environnement, la synchronisation de la configuration entre les cibles de déploiement et la journalisation d'audit pour le suivi des modifications. Il prend en charge divers backends de stockage via une couche d'adaptation et utilise une stratégie de mise en cache pour réduire la latence de recherche. Les fonctionnalités supplémentaires incluent l'activation planifiée des fonctionnalités, la gestion des déploiements canary et des alertes automatisées via l'intégration Slack.
Provides utilities for copying feature configurations between different storage backends during infrastructure transitions.
Papra is a self-hosted document management system designed for digital archiving, organization, and retrieval. It serves as a centralized platform for storing files with a focus on security, providing an encrypted file archive using AES-256-GCM and a programmatic interface for managing documents and metadata via a REST API, SDK, and command line tools. The system distinguishes itself through an automated document ingestion engine that imports files via email forwarding, monitored folders, and webhook listeners. It further enhances discoverability by acting as an OCR document indexer, extracti
Provides tools to migrate documents between different storage backends while preserving encryption and security.
Filegator is a web-based file manager and self-hosted file sharing portal. It functions as a cloud storage gateway that allows users to organize, upload, and download files across local disks and various cloud storage providers through a single unified interface. The system features a multi-backend authentication provider capable of verifying identities via JSON files, databases, or external directory services. It includes a role-based access control system that manages user permissions, assigns home folders, and restricts access to specific files and system routes. The platform provides cap
Copies data from a source provider to a replica in real-time to transition between storage backends.
Owlcache is a distributed, in-memory key-value cache server written in Go. It provides a high-performance storage engine designed to maintain frequently accessed data in volatile memory, facilitating low-latency access and accelerated application performance across distributed environments. The system distinguishes itself through decentralized cluster management and real-time data propagation. It utilizes gossip-based synchronization to maintain state consistency across nodes and supports active-passive coordination to ensure high availability. The platform integrates with diverse application
Supports the migration and ingestion of datasets from existing remote caching systems into the local environment.