12 Repos
Techniques for creating and managing various index types to accelerate data retrieval.
Distinct from Table Data Retrieval: Focuses specifically on the creation of primary, secondary, and composite indexes rather than general retrieval mechanisms.
Explore 12 awesome GitHub repositories matching data & databases · Index Optimizations. Refine with filters or upvote what's useful.
FoundationDB is an ACID-compliant distributed transactional key-value store. It functions as a scalable database engine that ensures strict serializability and data consistency across a cluster of servers using a shared-nothing architecture. The system is distinguished by its multi-region replication capabilities, allowing data to be synchronized across different datacenters for high availability and disaster recovery. It utilizes optimistic concurrency control to manage distributed transactions and employs a majority-based coordination system to maintain cluster state. The platform provides
Updates primary data records and associated indexes within a single transaction to prevent race conditions.
Soar is a suite of specialized tools designed for analyzing MySQL performance, advising on indexing, and optimizing SQL syntax. It functions as a performance analyzer, index advisor, and query optimizer to identify bottlenecks and suggest structural improvements for faster execution. The project distinguishes itself through a system for rewriting SQL statements into optimized equivalent versions using custom heuristic rules and patterns. It also features a dedicated index advisor that evaluates query patterns and database metadata to recommend the creation of new indexes. Its broader capabil
Evaluates complex query patterns to suggest efficient indexing strategies for faster data retrieval.
This project is a comprehensive educational resource and curriculum focused on site reliability engineering, distributed systems, and infrastructure operations. It provides technical guides, a systems engineering course, and instructional manuals designed to teach the principles of managing large-scale computing environments. The curriculum covers high-level architectural design for scalability and resilience, including fault-tolerant infrastructure, high-availability patterns, and microservices decomposition. It emphasizes the practical application of site reliability engineering through the
Provides guidance on using primary, secondary, and composite indexes to reduce row scans and query times.
goleveldb ist eine eingebettete Key-Value-Speicherdatenbank für Go. Sie bietet lokale Datenpersistenz und Indizierung, wodurch Anwendungen Informationen mithilfe eindeutiger Schlüssel speichern und abrufen können, ohne einen separaten Server zu benötigen. Die Datenbank organisiert Daten mithilfe eines Log-Structured-Merge-Trees und persistenter Indizierung in lexikografischer Reihenfolge. Diese Struktur unterstützt effiziente Bereichsscans und präfixbasierte Suchen. Das System enthält Funktionen für atomare Batch-Schreibvorgänge, um Datenkonsistenz zu gewährleisten und Teil-Updates zu vermeiden. Die Performance wird durch Write-Ahead-Logging, speicherbasiertes Buffering und Bloom-Filter verwaltet, um unnötige Festplatten-I/O zu reduzieren.
Ensures database mutations are applied as single atomic units to maintain data consistency.
Pinot is a distributed, columnar analytical database designed for high-concurrency, low-latency query processing. It functions as a real-time OLAP datastore, enabling interactive, user-facing analytics by ingesting and querying massive datasets from both streaming and batch sources. The system architecture relies on a centralized controller for cluster coordination and a distributed segment-based storage model to ensure horizontal scalability. The platform distinguishes itself through a hybrid ingestion pipeline that unifies real-time event streams and historical batch data into a single quer
Ensures that primary data and its associated indexes are updated within a single atomic transaction.
PGMQ ist ein leichtgewichtiges Message-Queuing-System, das als PostgreSQL-Erweiterung implementiert ist, um asynchrone Aufgaben zu verwalten. Es fungiert als datenbankgestützter Message-Broker, der PostgreSQL für persistente Speicherung, atomare Operationen und benachrichtigungsgesteuerte Zustellung nutzt. Das System bietet ein SQS-kompatibles Queue-Modell mit Sichtbarkeits-Timeouts und verzögerter Zustellung. Es unterstützt eine strikte First-in-First-out-Reihenfolge durch Gruppen-Keys und Batch-Abruf, um die sequentielle Verarbeitung verwandter Aufgaben sicherzustellen. Das Projekt deckt den gesamten Lebenszyklus einer Nachricht ab, einschließlich Produktion, Konsum über atomare Pop-Operationen und administrative Verwaltung wie Queue-Bereinigung und Lebenszykluskontrolle. Es enthält Routing-Funktionen durch themenbasierte Muster und Zuverlässigkeitsmerkmale wie Dead-Letter-Queueing, Nachrichtenarchivierung und Wiederholungslogik. Überwachungstools werden bereitgestellt, um operative Metriken wie Queue-Länge und Durchsatz zu verfolgen.
Accelerates the retrieval of grouped messages through specialized indexing on message headers.
Zombodb ist eine Datenbankerweiterung und ein relationaler Daten-Indexer, der PostgreSQL mit Elasticsearch integriert. Er bietet eine SQL-Suchschnittstelle, die es Benutzern ermöglicht, komplexe Suchanfragen und Aggregationen unter Verwendung von Standard-SQL-Funktionen und -Syntax anstelle nativer JSON-APIs auszuführen. Das Projekt synchronisiert relationale Daten von PostgreSQL mit einer Remote-Suchmaschine, um leistungsstarke Volltextsuche und Analysen zu ermöglichen. Das System zeichnet sich dadurch aus, dass es relationale Strukturen mit Suchmaschinenfunktionen verbindet, insbesondere durch die Integration der Georaumsuche für Geometrie- und Geografietypen. Es implementiert eine SQL-zu-JSON-Abfrage-Mapping-Schicht, die fortgeschrittene Textanalysen – einschließlich Fuzzy-Matching, Proximity-Suchen und Relevanz-Scoring – direkt in einer relationalen Umgebung ermöglicht. Das Projekt deckt breite Funktionsbereiche ab, einschließlich Index-Lebenszyklusmanagement, automatisierter relationaler Datensynchronisation und komplexer analytischer Aggregationen. Es unterstützt räumliche Indizierung für standortbasierte Abfragen, benutzerdefinierte Textanalyse-Pipelines und Überwachungstools zur Prüfung von Indexstatistiken und Cluster-Gesundheit. Die Sicherheit wird durch verschlüsselte Verbindungen zwischen der Datenbank und der Suchmaschine mittels TLS gewährleistet.
Provides utilities to clean up obsolete or aborted transaction data within the index to maintain search speeds.
H2 ist ein JDBC-konformes relationales Datenbankmanagementsystem, das in Java geschrieben ist. Es fungiert als einbettbare SQL-Datenbank, die direkt innerhalb eines Anwendungsprozesses ausgeführt werden kann, um Netzwerklatenz zu eliminieren, oder als In-Memory-Datenbank für performante, flüchtige Speicherung. Es enthält zudem eine webbasierte Konsole zur Ausführung von SQL-Befehlen und zur Verwaltung von Schemata. Das System zeichnet sich durch flexible Bereitstellungsmodi aus, einschließlich eines Standalone-Server-Modus für Remote-TCP/IP-Zugriffe und eines gemischten Modus für gleichzeitige lokale und Remote-Konnektivität. Es verfügt über eine Dialekt-Emulationsschicht und Kompatibilitätsmodi, die es ermöglichen, das Verhalten und die Syntax anderer Datenbanksysteme nachzuahmen. Die Engine bietet ein breites Spektrum an Funktionen, darunter ACID-Transaktionen mit Multi-Version Concurrency Control (MVCC), Unterstützung für Geodaten und JSON sowie fortgeschrittene analytische Fensterfunktionen. Es enthält Tools zur Datensicherung durch komprimierte Backups, SQL-Skript-Wiederherstellung und Off-Heap-Speicherverwaltung für große Datensätze. Die Datenbank lässt sich über Standard-JDBC-Treiber und Verbindungs-URLs in Anwendungen integrieren.
Allows directing the optimizer to use specific indexes or full table scans to override default execution plans.
git-branchless ist eine Suite von Tools zur Organisation von Änderungen als Sequenz einzelner Commits anstelle traditioneller Branches. Es fungiert als Stacked-Commit-Manager, Tool zur Historienmanipulation und Auditor für den Repository-Zustand, das darauf ausgelegt ist, einen branchlosen Entwicklungsworkflow zu erleichtern. Das System zeichnet sich durch In-Memory-Graph-Manipulation aus, die das Rebasen, Teilen und Verschieben komplexer Commit-Subtrees ermöglicht, ohne die Arbeitskopie auszuchecken. Es enthält einen Commit-Graph-Visualisierer, der versteckte Referenzen und verwaiste Knoten rendert, sowie eine lokale Datenbank, die Repository-Ereignisse protokolliert, um die Wiederherstellung früherer Projektzustände zu ermöglichen. Für große Codebasen nutzt es Sparse-Indizes und Multithreading-Ausführung, um Commit- und Merge-Operationen zu beschleunigen. Das Projekt deckt ein breites Spektrum an Funktionen ab, einschließlich nicht-linearer Graph-Manipulation, Verfolgung der Commit-Evolution und benutzerdefinierter abfragebasierter Historienfilterung. Es bietet Tools zur Repository-Wiederherstellung durch Workspace-Snapshots und Ereignisprotokolle sowie Qualitätssicherungsprogramme zur Ausführung von Tests über sequentielle Commit-Stacks hinweg, um regressive Commits zu identifizieren.
Accelerates commit and merge operations in large codebases by indexing only a subset of the tree.
RavenDB is a multi-model NoSQL document database designed for high-performance, ACID-compliant data storage. It persists structured information as schema-flexible JSON documents and utilizes a unit-of-work session pattern to track entity changes and batch modifications into atomic transactions. The platform is built on a distributed architecture that supports horizontal scaling through sharding and ensures high availability via multi-node, master-to-master cluster replication. The database distinguishes itself through a self-optimizing query engine that automatically creates and maintains ind
Utilizes precomputed static and auto-indexes to accelerate query execution and ensure high-performance data retrieval.
This project is a T-SQL maintenance framework and suite of automated scripts for SQL Server. It functions as a backup automator, index optimizer, and integrity checker designed to manage routine database administration tasks through a programmable set of stored procedures. The solution distinguishes itself through a focus on automated orchestration, including the ability to target or exclude databases within Availability Groups and the use of mirror-write backup streams for redundancy. It employs fragmentation-driven indexing to determine whether to rebuild or reorganize indexes based on user
Implements fragmentation-driven routines to rebuild or reorganize indexes and update statistics for improved query performance.
Gravitino is a federated metadata lake and unified data catalog designed to manage tables, files, and AI models across diverse data sources and cloud storage. It serves as a centralized interface for governing schemas, access controls, and tagging across relational databases, messaging queues, and object stores. The project distinguishes itself by unifying the management of AI assets, such as machine learning models and their version lineages, alongside traditional tabular data. It also implements the Iceberg REST specification to provide a standardized metadata server and proxy for lakehouse
Creates primary key indexes and joint primary keys to optimize data retrieval performance.