Awesome GitHub RepositoriesDistributed Commit Logs

Kafka is a distributed event streaming platform designed for capturing, storing, and processing real-time data streams across interconnected nodes. It functions as a distributed commit log, providing a fault-tolerant storage mechanism that records state changes sequentially to ensure data consistency and durability across distributed environments. The platform distinguishes itself through a partitioned commit log architecture that enables horizontal scaling and parallel processing of data streams. It integrates a stream processing engine for continuous transformations and aggregations, while

This is a Raft consensus library and distributed consensus engine implemented in Go. It provides the primitives necessary to build fault-tolerant distributed services by implementing a replicated state machine that ensures a group of servers agree on a shared system state through leader election and log replication. The project distinguishes itself through a pluggable architecture for storage backends and snapshot storage, decoupling the consensus logic from physical persistence. It includes specialized mechanisms for leadership transfer, protocol version management to support rolling upgrade

immudb is a tamperproof database that maintains an immutable record of entries using cryptographic commit logging. It ensures verifiable database integrity by utilizing Merkle trees to generate membership and consistency proofs that detect unauthorized data alterations. The system employs a multi-model storage engine that unifies key-value, document, and relational data structures within a single immutable backend. It provides compatibility with the PostgreSQL wire protocol, allowing it to integrate with standard SQL clients, ORMs, and database tools. The project covers broad capabilities in

Orbit DB is a decentralized NoSQL database that utilizes conflict-free replicated data types to ensure eventual consistency across a network of nodes. It functions as a peer-to-peer data store that uses IPFS for content-addressing and synchronization, allowing for the maintenance of application state without a central server or authority. The system is built upon a cryptographically verifiable, immutable operation log, which serves as the foundation for custom decentralized data models. This architecture enables the implementation of various data storage patterns, including JSON document stor

OrbitDB is a decentralized data storage system that enables the creation of serverless databases residing across a network of peers. It functions as a peer-to-peer database that integrates with a content-addressed storage layer to distribute and replicate data without a central server. The system utilizes conflict-free replicated data types to ensure eventual consistency and state convergence across distributed nodes. It maintains an immutable record of updates using a directed acyclic graph to preserve causal ordering and cryptographic integrity. Access is managed through a decentralized ide

Sui is a blockchain platform featuring an object-centric state model and resource-oriented smart contracts. It utilizes parallel transaction execution to increase network throughput and supports programmable transaction blocks that bundle multiple operations into single atomic units. The platform distinguishes itself with a capability-based access control system and zero-knowledge login mechanisms, enabling users to authenticate via identity providers without seed phrases. It also implements deterministic object addressing to allow predictable state lookups and supports the creation of soulbo

هذا المشروع عبارة عن محرك قاعدة بيانات قابل للتحقق يوفر نظام إثبات تشفيري لـ SQL لضمان سلامة المعلومات المخزنة واسترجاعها. يعمل كمخزن بيانات حامل للإثبات يستخدم التزامات تشفيرية لمنع التلاعب بالبيانات وضمان دقة نتائج الاستعلام. يولد النظام إثباتات المعرفة الصفرية (zero-knowledge proofs) لتقديم أدلة رياضية على أن استعلام SQL قد تم تنفيذه بشكل صحيح دون الحاجة إلى إعادة تشغيل العملية بالكامل. يمكن تصدير هذه الإثباتات التشفيرية للتحقق منها على السلسلة، مما يسمح للعقود الذكية أو أطراف ثالثة بالتحقق من نتائج قاعدة البيانات بشكل موثوق. يتضمن المحرك معالج استعلامات SQL تحليلي عالي الأداء قادر على تنفيذ تجميعات وفلاتر معقدة عبر ملايين الصفوف مع أوقات استجابة أقل من ثانية. يحافظ على خط أنابيب استيعاب بيانات آمن ينشئ تجزئات مقاومة للتلاعب أثناء الإدخال لضمان سلامة حالة قاعدة البيانات.

Jocko عبارة عن منصة بث أحداث سحابية أصلية وسجل التزامات (Commit log) موزع تم تنفيذه بلغة Go. يعمل كوسيط رسائل موزع يضمن متانة البيانات وتوافرها العالي من خلال تكرار تسلسلات السجلات عبر مجموعة (Cluster). تم تصميم النظام كبث أحداث بدون Zookeeper، مستخدمًا تنسيق إجماع مدمج لإدارة حالة المجموعة وانتخاب القائد دون الحاجة إلى خدمات تنسيق خارجية. ينفذ بروتوكول Kafka، مما يسمح له بالتواصل مع عملاء وأدوات النظام البيئي الحالي. توفر المنصة قدرات لإدارة السجلات الموزعة، بما في ذلك استخدام سجل التزامات للإلحاق فقط (Append-only) لضمان استمرارية البيانات. كما تتضمن آليات تلقائية للاحتفاظ بالبيانات تقوم بمسح السجلات القديمة بناءً على حدود زمنية أو عتبات مساحة القرص. يتم توزيع المشروع كملف تشغيل ثنائي واحد.

Trillian is a distributed, multi-tenant verifiable data store that maintains cryptographically verifiable logs and maps using Merkle tree structures. It functions as a scalable backend for transparency logs, providing a system where data integrity is ensured through append-only records and mathematical proofs of inclusion and consistency. The system distinguishes itself by decoupling core storage from application-specific logic through a personality layer, which handles admission criteria and data canonicalization. It employs a consensus-based leader election mechanism for high availability a