Awesome GitHub RepositoriesDistributed Commit Logs

Kafka is a distributed event streaming platform designed for capturing, storing, and processing real-time data streams across interconnected nodes. It functions as a distributed commit log, providing a fault-tolerant storage mechanism that records state changes sequentially to ensure data consistency and durability across distributed environments. The platform distinguishes itself through a partitioned commit log architecture that enables horizontal scaling and parallel processing of data streams. It integrates a stream processing engine for continuous transformations and aggregations, while

This is a Raft consensus library and distributed consensus engine implemented in Go. It provides the primitives necessary to build fault-tolerant distributed services by implementing a replicated state machine that ensures a group of servers agree on a shared system state through leader election and log replication. The project distinguishes itself through a pluggable architecture for storage backends and snapshot storage, decoupling the consensus logic from physical persistence. It includes specialized mechanisms for leadership transfer, protocol version management to support rolling upgrade

immudb is a tamperproof database that maintains an immutable record of entries using cryptographic commit logging. It ensures verifiable database integrity by utilizing Merkle trees to generate membership and consistency proofs that detect unauthorized data alterations. The system employs a multi-model storage engine that unifies key-value, document, and relational data structures within a single immutable backend. It provides compatibility with the PostgreSQL wire protocol, allowing it to integrate with standard SQL clients, ORMs, and database tools. The project covers broad capabilities in

Orbit DB is a decentralized NoSQL database that utilizes conflict-free replicated data types to ensure eventual consistency across a network of nodes. It functions as a peer-to-peer data store that uses IPFS for content-addressing and synchronization, allowing for the maintenance of application state without a central server or authority. The system is built upon a cryptographically verifiable, immutable operation log, which serves as the foundation for custom decentralized data models. This architecture enables the implementation of various data storage patterns, including JSON document stor

OrbitDB is a decentralized data storage system that enables the creation of serverless databases residing across a network of peers. It functions as a peer-to-peer database that integrates with a content-addressed storage layer to distribute and replicate data without a central server. The system utilizes conflict-free replicated data types to ensure eventual consistency and state convergence across distributed nodes. It maintains an immutable record of updates using a directed acyclic graph to preserve causal ordering and cryptographic integrity. Access is managed through a decentralized ide

Sui is a blockchain platform featuring an object-centric state model and resource-oriented smart contracts. It utilizes parallel transaction execution to increase network throughput and supports programmable transaction blocks that bundle multiple operations into single atomic units. The platform distinguishes itself with a capability-based access control system and zero-knowledge login mechanisms, enabling users to authenticate via identity providers without seed phrases. It also implements deterministic object addressing to allow predictable state lookups and supports the creation of soulbo

Ce projet est un moteur de base de données vérifiable qui fournit un système de preuve cryptographique SQL pour assurer l'intégrité des informations stockées et leur récupération. Il fonctionne comme un magasin de données avec preuves qui utilise des engagements cryptographiques pour empêcher la falsification des données et garantir que les résultats des requêtes sont exacts. Le système génère des preuves à divulgation nulle de connaissance (zero-knowledge proofs) pour fournir une preuve mathématique qu'une requête SQL a été exécutée correctement sans nécessiter une réexécution complète du processus. Ces preuves cryptographiques peuvent être exportées pour une validation on-chain, permettant aux smart contracts ou à des tiers de vérifier les résultats de la base de données de manière trustless. Le moteur inclut un processeur de requêtes SQL analytique haute performance capable d'exécuter des agrégations et des filtres complexes sur des millions de lignes avec des temps de réponse inférieurs à la seconde. Il maintient un pipeline d'ingestion de données sécurisé qui crée des hashs inviolables lors de l'entrée pour assurer l'intégrité de l'état de la base de données.

Jocko est une plateforme de streaming d'événements cloud-native et un journal de commit distribué implémenté en Go. Il fonctionne comme un broker de messages distribué qui assure la durabilité des données et la haute disponibilité en répliquant les séquences d'enregistrements à travers un cluster. Le système est conçu comme un streamer d'événements sans Zookeeper, utilisant une coordination de consensus intégrée pour gérer l'état du cluster et l'élection du leader sans nécessiter de services de coordination externes. Il implémente le protocole réseau Kafka, lui permettant de communiquer avec les clients et outils de l'écosystème existant. La plateforme fournit des capacités pour la gestion de journaux distribués, y compris l'utilisation d'un journal de commit en ajout seul (append-only) pour la persistance des données. Elle inclut également des mécanismes automatisés de rétention des données qui purgent les anciens enregistrements en fonction de limites de temps ou de seuils d'espace disque. Le projet est distribué sous forme de runtime binaire unique.