20 repository-uri
Support for non-scalar data structures like maps and unions.
Distinguishing note: Focuses on schema flexibility rather than general data ingestion.
Explore 20 awesome GitHub repositories matching data & databases · Complex Data Types. Refine with filters or upvote what's useful.
DuckDB is an in-process analytical database engine designed to run directly within an application process. As a zero-dependency, embedded system, it provides enterprise-grade SQL data processing capabilities without the overhead of managing a dedicated database server. It is built to handle complex analytical and aggregation tasks by storing and retrieving information in columns, allowing for high-performance relational data manipulation. The engine distinguishes itself through a columnar vectorized execution model that maximizes CPU cache efficiency during query operations. It employs adapti
Supports intricate data structures using specialized types for nested or heterogeneous information.
This project is a cross-platform development framework and managed runtime environment designed for building high-performance applications. It provides a comprehensive toolkit for constructing web services, cloud-native microservices, and desktop applications, utilizing a unified runtime that handles memory management and execution across diverse operating systems. The framework distinguishes itself through a native ahead-of-time compilation toolchain that transforms source code into optimized, self-contained machine code binaries. This capability enables fast startup times and reduced memory
Supports complex data structures like union types and collection expressions to simplify data modeling.
TOML is a configuration file format designed for human readability and unambiguous mapping to hash tables. It serves as a standardized language for structured data, enabling consistent parsing and data exchange across diverse programming environments. The format distinguishes itself through a strict type-system specification that ensures data is interpreted identically regardless of the implementation. It utilizes a line-oriented lexical structure that supports both hierarchical organization through bracketed sections and compact inline embedding for nested objects. This approach allows for t
Encodes diverse data types including multi-line strings, scientific numbers, and temporal values.
Presto is a distributed SQL query engine designed for high-performance analytical processing across heterogeneous data sources. It functions as a data federation platform and massively parallel processing engine, allowing users to execute interactive queries against diverse storage systems without requiring data migration. By mapping remote metadata and structures to a unified relational namespace, it enables seamless cross-platform analysis through a standard SQL interface. The engine distinguishes itself through a pluggable connector architecture and a shared-nothing distributed processing
Organizes information into arrays, maps, and nested structures to support complex data models within SQL queries.
RisingWave is a cloud-native streaming database and real-time analytics engine that uses standard SQL to process continuous data streams. It functions as a streaming data lakehouse, combining the capabilities of a streaming SQL database with a platform that integrates streaming ingestion with open table formats. The system is distinguished by its use of the PostgreSQL wire protocol, allowing it to integrate with existing SQL tools and drivers. It employs a decoupled compute and storage architecture, persisting streaming state and materialized views in cloud object storage to enable independen
Supports a wide range of standard SQL types, including arbitrary precision decimals and large integers.
RedisInsight is a graphical user interface and management tool for browsing, analyzing, and administering Redis databases. It provides a visual environment for exploring key-value data structures, managing database instances, and performing data analysis across different operating systems and deployments. The tool distinguishes itself by providing dedicated visual managers for complex operations, including a vector database manager for configuring embeddings and similarity searches, a query workbench for executing raw commands and Lua scripts, and a performance monitoring dashboard for tracki
Manages diverse and complex data formats including JSON documents, time series, and probabilistic types.
asyncpg is an asynchronous database driver and binary protocol client for PostgreSQL. It provides a non-blocking interface for executing SQL statements, streaming result sets, and managing data transfer between an application and a PostgreSQL database. The driver implements the PostgreSQL binary protocol directly to facilitate efficient data transfer and type conversion. It includes a connection pool to maintain and reuse open database connections, reducing the latency associated with repeated handshakes. The project covers a broad range of database integration capabilities, including atomic
Encodes and decodes composite types, arrays, and custom formats between the database and application.
MessagePack is a binary object serialization library and a cross-platform data exchange format. It serves as a binary alternative to JSON, converting structured data into a space-efficient binary representation for network transmission and storage. The system provides a standardized format for swapping complex data types across different programming languages and architectures. It allows for the definition of custom data type encoding by pairing application-specific information with specialized serialization markers. The library handles the encoding and decoding of diverse data types, includ
Defines specialized binary formats for application-specific data structures using extendable serialization markers.
jOOQ is a type-safe SQL query builder for Java that generates code from live database schemas, enabling compile-time validation of SQL syntax and data types. Its core identity is built around a fluent DSL that mirrors SQL structure, a code generator that maps tables, views, and routines to Java objects, and a multi-dialect engine that translates the same DSL into vendor-specific SQL for over 30 databases. The project also includes a SQL parser and transformer for refactoring or dialect conversion, reactive stream integration for non-blocking query execution, and a JDBC proxy diagnostics tool f
Wraps multiple database columns into a single client-side value object for type-safe composite data handling.
Pinot is a distributed, columnar analytical database designed for high-concurrency, low-latency query processing. It functions as a real-time OLAP datastore, enabling interactive, user-facing analytics by ingesting and querying massive datasets from both streaming and batch sources. The system architecture relies on a centralized controller for cluster coordination and a distributed segment-based storage model to ensure horizontal scalability. The platform distinguishes itself through a hybrid ingestion pipeline that unifies real-time event streams and historical batch data into a single quer
Processes and flattens nested JSON or stream document fields to make complex data structures queryable.
Octosql este un motor de interogare SQL federat, un transformator de date și un procesor de SQL pentru streaming. Acesta permite utilizatorilor să execute instrucțiuni SQL unice peste surse de date multiple și disparate, inclusiv diferite tipuri de baze de date și formate de fișiere, pentru a îmbina și transforma rezultatele într-un set unitar. Sistemul se distinge prin tratarea fișierelor CSV, JSONLines și Parquet ca tabele virtuale și prin utilizarea unei arhitecturi bazate pe plugin-uri pentru a extinde conectivitatea către motoare de stocare externe. Funcționează ca un procesor de streaming pentru fluxuri de date infinite, folosind watermarks, retractions și tumbling windows pentru a menține consistența evenimentelor sosite în afara ordinii. În plus, servește ca generator de date SQL capabil să producă seturi de date sintetice și fluxuri de înregistrări prin funcții de tip tabel. Motorul include capabilități pentru join-uri cross-source și analiză multi-sursă, optimizate prin predicate push-down la nivel de sursă pentru a reduce transferul de date. Gestionează date complexe printr-un sistem de tipuri statice cu union types și oferă observabilitate prin vizualizarea planurilor de execuție a interogărilor.
Utilizes a static type system to manage complex data structures like union types within columns.
Acest proiect este un tutorial cuprinzător de analiză a datelor pandas și un ghid instrucțional conceput pentru învățarea manipulării și analizei datelor. Acesta servește drept ghid de procesare a datelor tabelare și un manual pentru analiza seriilor temporale, oferind o abordare structurată pentru curățarea, fuziunea și transformarea seturilor de date. Repository-ul funcționează ca un curs de feature engineering pentru date, oferind tutoriale despre construirea și selectarea caracteristicilor setului de date pentru a îmbunătăți performanța modelului de machine learning. Include, de asemenea, un ghid de operațiuni vectorizate pe date pentru efectuarea de calcule matematice element-cu-element și manipulări de matrice. Materialul acoperă o gamă largă de capabilități, inclusiv fluxuri de lucru de curățare a datelor, sarcini de integrare a datelor și analiză a datelor tabelare. Oferă îndrumări privind procesarea informațiilor textuale, gestionarea datelor categorice și optimizarea vitezei de execuție pentru seturi de date mari. Proiectul este livrat sub forma unei serii de Jupyter Notebooks care conțin exerciții practice și probleme de practică țintite.
Provides specialized techniques for managing timestamps, date offsets, and categorical variables.
Acest proiect este un ghid cuprinzător și o resursă educațională pentru limbajul TypeScript. Acoperă principiile fundamentale ale limbajului, inclusiv sistemul său de tipuri structurale, analiza statică a tipurilor și procesul de transpilare a fișierelor sursă tipizate în JavaScript. Materialul detaliază modul de modelare a datelor complexe și a logicii de tip reutilizabile folosind generice, tipuri condiționale și tipuri mapate. De asemenea, explică utilizarea fișierelor de declarație pentru a oferi siguranța tipurilor pentru bibliotecile JavaScript externe și integrarea verificării tipurilor în proiectele JavaScript existente prin adnotări JSDoc. Domeniul de aplicare al conținutului se extinde la modele de programare orientată pe obiecte, manipularea DOM și configurarea comportamentelor compilatorului. Include îndrumări privind gestionarea interoperabilității modulelor, configurarea pipeline-urilor de build și utilizarea inteligenței editorului pentru o mai bună productivitate a dezvoltatorilor.
Provides techniques for creating reusable structures and shorthand aliases to model complex data shapes.
H2 este un sistem de gestionare a bazelor de date relaționale compatibil JDBC, scris în Java. Funcționează ca o bază de date SQL embeddable care poate rula direct în procesul unei aplicații pentru a elimina latența rețelei, sau ca o bază de date în memorie pentru stocare volatilă de înaltă performanță. Include, de asemenea, o consolă bazată pe web pentru executarea comenzilor SQL și administrarea schemelor. Sistemul se caracterizează prin moduri de implementare flexibile, inclusiv un mod server standalone pentru acces TCP/IP la distanță și un mod mixt pentru conectivitate locală și la distanță simultană. Dispune de un strat de emulare a dialectelor și moduri de compatibilitate care îi permit să imite comportamentul și sintaxa altor sisteme de baze de date. Motorul oferă un set larg de capabilități, acoperind tranzacții ACID cu controlul concurenței multi-versiune (MVCC), suport pentru date geospațiale și JSON, precum și funcții analitice avansate de tip window. Include instrumente pentru conservarea datelor prin backup-uri comprimate, restaurarea scripturilor SQL și gestionarea memoriei off-heap pentru a manipula seturi mari de date. Baza de date se integrează cu aplicațiile folosind drivere standard Java Database Connectivity și URL-uri de conexiune.
Supports non-scalar data structures including JSON, UUIDs, and enumerated types.
Hive este o bază de date NoSQL key-value ușoară, scrisă în Dart pur pentru persistența datelor locale. Funcționează ca un magazin de documente type-safe care permite salvarea și recuperarea structurilor de date complexe și a obiectelor personalizate. Sistemul se distinge prin utilizarea adaptoarelor personalizate pentru serializarea obiectelor și criptarea cu cheie simetrică pentru a securiza datele at rest. Pentru mediile web, oferă un strat de persistență care wrap-uiește IndexedDB și utilizează web workers. Proiectul acoperă domenii largi de capabilități, inclusiv gestionarea containerelor, scrieri tranzacționale atomice și recuperarea datelor indexate. Suportă offloading-ul operațiunilor bazei de date către izolate de fundal pentru a menține responsivitatea interfeței utilizator și permite inițializarea containerelor de stocare prin asset-uri binare pre-populate.
Supports storing non-scalar data structures such as lists and maps while maintaining data integrity.
Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di
Organizes data using nested structures, maps, and variant types.
msgspec is a high-performance data modeling, serialization, and schema validation toolkit for Python. It serves as a type-safe serialization framework that integrates schema enforcement and data parsing into a single pass, functioning as both a data serialization library and a schema validation system based on standard Python type annotations. The project distinguishes itself through high-performance structural primitives, including compilation-based routine generation and zero-copy buffer parsing. It optimizes memory usage via garbage collection-aware layouts and reduces processing overhead
Supports encoding and decoding of non-scalar types like UUIDs, decimals, and datetimes using type annotations.
This project is a comprehensive software fuzzing knowledge base and technical guide designed for discovering software bugs and vulnerabilities. It serves as a resource for implementing coverage-guided, structure-aware, and hybrid fuzzing across various targets, including compiled binaries and hardware kernels. The resource provides specialized guidance on using grammars and defined data formats to generate syntactically valid inputs for complex APIs. It also details methods for combining grey-box fuzzing with symbolic execution to reach deep execution paths and utilizes binary instrumentation
Explains how to split a single data stream into multiple inputs for APIs requiring complex parameter sets.
Virtus is a Ruby attribute management and data coercion library used to define object schemas with typed attributes. It functions as a tool for transforming nested JSON structures and complex input formats into structured internal Ruby data types. The project provides a framework for creating value objects that are compared by their attribute values rather than memory identity. It allows for the mapping of complex external data into domain objects and supports the implementation of custom coercion logic to ensure data consistency. The library covers data modeling through schema-driven attrib
Converts input data into structured formats like typed arrays, hashes, or nested objects.
TypeGPU is a tool for type-safe WebGPU development that enables writing shaders in TypeScript. It translates high-level TypeScript function definitions and structures into WebGPU Shading Language source code to automate shader generation and validate logic using a type system. The project provides a mechanism for cross-library GPU interoperability by sharing typed buffers without copying data to system memory. It also integrates the Model Context Protocol to allow AI agents to inspect generated shader code and diagnose runtime errors. The system manages WebGPU resource mapping through typed
Translates complex data structures into typed binary formats to ensure correct memory alignment during CPU-to-GPU transfer.