15 रिपॉजिटरी
Support for compact binary serialization formats like BSON or MessagePack.
Distinguishing note: Focuses on binary-specific serialization rather than text-based formats.
Explore 15 awesome GitHub repositories matching data & databases · Binary Data Formats. Refine with filters or upvote what's useful.
This library is a header-only C++ framework designed for the serialization, parsing, and manipulation of structured data. It provides a recursive variant data model that represents arbitrary structures as native types, allowing developers to navigate, modify, and patch hierarchical data using standard pointer paths and declarative update patterns. The project distinguishes itself through its template-based architecture, which enables type-safe data structures and custom type mapping at compile time. It offers a unified interface for binary format abstraction, supporting multiple compact repre
Provides a unified interface for encoding and decoding data into multiple compact binary representations.
This project is a comprehensive platform for quantitative investment research, machine learning, and algorithmic trading. It provides an end-to-end environment for developing, testing, and executing financial strategies, supporting the entire lifecycle from data ingestion and feature engineering to model training and backtesting. The system is distinguished by its configuration-driven workflow orchestration, which allows researchers to automate complex pipelines and manage experiments through declarative files. It features a high-performance data infrastructure that utilizes custom binary for
Provides custom binary file structures to optimize disk I/O and memory throughput for large-scale market datasets.
ET is a C# game server framework and distributed actor model runtime designed for large-scale multiplayer environments. It provides a comprehensive toolkit for building distributed game backends, incorporating a multiplayer network transport layer and a specialized suite for game AI and pathfinding. The framework is distinguished by its use of a distributed actor model to scale processing across multiple threads and servers, utilizing isolated actors for state management and messaging. It features a unified codebase architecture that allows shared logic between the server and client, enabling
Uses BSON-based binary serialization to minimize garbage collection and optimize network throughput.
This project is an educational resource and a collection of instructional materials for performing data manipulation and statistical analysis using Python. It provides a comprehensive set of guides and code examples for using the Pandas, NumPy, and Matplotlib libraries to analyze structured data. The resource includes a dedicated guide for reshaping, cleaning, and aggregating tabular data and time series via Pandas, alongside a reference for high-performance vectorized operations and linear algebra using NumPy. It also features tutorials for creating publication-quality charts, distribution p
Persists data using compact binary serialization formats to facilitate high-performance read and write access.
The mongo-go-driver is a Go library for building applications that integrate with a MongoDB document store. It enables the storage and retrieval of flexible document data by providing a bridge between Go backends and the database. The driver implements specialized capabilities for semantic vector search, allowing the handling and execution of high-dimensional vector data for similarity-based retrieval. It also supports full-text search via linguistic analysis and programmatic search index management. The project covers a broad range of database operations, including document-based CRUD, bulk
Implements BSON binary serialization for efficient data transmission and storage.
asyncpg is an asynchronous database driver and binary protocol client for PostgreSQL. It provides a non-blocking interface for executing SQL statements, streaming result sets, and managing data transfer between an application and a PostgreSQL database. The driver implements the PostgreSQL binary protocol directly to facilitate efficient data transfer and type conversion. It includes a connection pool to maintain and reuse open database connections, reducing the latency associated with repeated handshakes. The project covers a broad range of database integration capabilities, including atomic
Uses binary-format codecs to convert database types to Python objects, reducing parsing overhead.
MessagePack is a binary object serialization library and a cross-platform data exchange format. It serves as a binary alternative to JSON, converting structured data into a space-efficient binary representation for network transmission and storage. The system provides a standardized format for swapping complex data types across different programming languages and architectures. It allows for the definition of custom data type encoding by pairing application-specific information with specialized serialization markers. The library handles the encoding and decoding of diverse data types, includ
Provides a compact binary serialization format that uses type-prefix markers to define data size and type.
MessagePack-CSharp is a high-performance binary serializer for .NET that converts C# objects to and from the compact MessagePack format. It uses compile-time source generation to produce AOT-safe formatters and resolvers, eliminating runtime reflection and enabling ahead-of-time compilation scenarios. The serializer encodes object fields as integer indices instead of string keys, producing compact binary output with deterministic field ordering, and provides stack-allocated reader and writer structs for direct encoding and decoding of MessagePack primitives without heap allocations. The libra
Embeds full .NET type names into serialized blobs for type-argument-free deserialization.
Racket एक सामान्य-उद्देश्य, बहु-प्रतिमान प्रोग्रामिंग भाषा है जो Lisp परिवार में भाषा निर्माण के लिए डिज़ाइन की गई है। यह एक भाषा वर्कबेंच के रूप में कार्य करता है, जो मैक्रोज़ और मॉड्यूल की एक लचीली प्रणाली के माध्यम से कस्टम प्रोग्रामिंग भाषाओं को डिजाइन और कार्यान्वित करने के लिए एक प्लेटफॉर्म प्रदान करता है। यह सिस्टम सिमेंटिक्स इंजीनियरिंग के लिए एक व्यापक सूट की पेशकश करके खुद को अलग करता है, जो विशेष भाषा सबसेट और शैक्षिक परतों के निर्माण की अनुमति देता है। इसमें कस्टम भाषा डिज़ाइन के लिए टूल शामिल हैं, जैसे लेक्सर और पार्सर जनरेशन, साथ ही रीड-टाइम पर मॉड्यूल विस्तार नियमों और गतिशील भाषा चयन को परिभाषित करने की क्षमता। यह प्रोजेक्ट एक इन-बिल्ट एडिटर, विजुअल डिबगर और सॉफ़्टवेयर पैकेज मैनेजर के साथ एक एकीकृत विकास वातावरण प्रदान करता है। इसकी क्षमता सतह 2D ग्राफिक्स रेंडरिंग, बाइनरी डेटा प्रोसेसिंग, SQL और डिडक्टिव डेटाबेस एकीकरण, और ग्राफिकल यूजर इंटरफेस के निर्माण को कवर करने वाली एक सामान्य-उद्देश्य मानक लाइब्रेरी तक फैली हुई है। यह वातावरण वितरण के लिए सोर्स कोड को स्टैंडअलोन निष्पादन योग्य फाइलों में संकलित करने का समर्थन करता है।
Allows mapping field sequences to binary formats to automate the handling of complex data structures.
pgx, Rust प्रोग्रामिंग भाषा का उपयोग करके हाई-परफॉर्मेंस PostgreSQL एक्सटेंशन विकसित करने के लिए एक फ्रेमवर्क और टूल्स का सूट है। यह इंटरनल डेटाबेस मेमोरी कॉन्टेक्स्ट, लॉगिंग सिस्टम और कोर एग्जीक्यूशन API के साथ इंटरैक्ट करने के लिए एक लो-लेवल API रैपर प्रदान करता है, जिससे सीधे डेटाबेस इंजन के भीतर कस्टम डेटाबेस फंक्शनैलिटी और लॉजिक को लागू करना संभव हो जाता है। यह प्रोजेक्ट एक समर्पित बिल्ड टूल और कमांड लाइन इंटरफेस के माध्यम से खुद को अलग करता है जो एनवायरनमेंट इनिशियलाइज़ेशन से लेकर बाइनरी पैकेजिंग तक, एक्सटेंशन डेवलपमेंट लाइफसाइकिल को मैनेज करता है। इसमें एक टाइप मैपर शामिल है जो भाषा संरचनाओं को डेटाबेस कंपोजिट टाइप्स में ट्रांसलेट करता है और स्वचालित रूप से संबंधित SQL स्कीमा डेफिनिशन जनरेट करता है। यह फ्रेमवर्क यूजर-डिफाइंड फंक्शन मैपिंग, बाइनरी प्रोटोकॉल इंटीग्रेशन, और अलग-अलग डेटाबेस रिलीज़ के बीच संगतता सुनिश्चित करने के लिए मल्टी-वर्जन टारगेट सपोर्ट सहित व्यापक क्षमताएं कवर करता है। यह पॉइंटर्स को संभालने और डेटाबेस वातावरण के भीतर लीक को रोकने के लिए विशेष मेमोरी मैनेजमेंट रैपर्स भी प्रदान करता है।
Implements specialized binary codecs for translating PostgreSQL internal binary representations into native Rust objects.
Cereal is a C++ serialization library and object persistence tool used to convert data types and containers into formats for storage or transmission. It is implemented as a header-only library, allowing it to be included directly in source code without the need for a compiled binary. The library supports multiple data representations, including binary, XML, and JSON. It provides the ability to define custom archives, enabling the development of specialized output formats to control how data is encoded and stored. The system handles the conversion of complex objects through template-based ser
Supports compact binary serialization formats for efficient communication between different C++ processes.
Kaitai Struct घोषणात्मक बाइनरी विनिर्देश के लिए एक फ्रेमवर्क है जो कई प्रोग्रामिंग भाषाओं में स्वचालित पार्सर और सीरियलाइज़र जनरेशन प्रदान करता है। यह बाइनरी फाइलों और नेटवर्क पैकेट के लेआउट का वर्णन करने के लिए एक पोर्टेबल, डोमेन-विशिष्ट भाषा का उपयोग करता है, जो इन विनिर्देशों को बाइनरी डेटा पढ़ने और लिखने के लिए सोर्स कोड में बदल देता है। यह सिस्टम C++, C#, Go, Java, JavaScript, Python और Rust सहित भाषाओं के लिए एक एकल संरचनात्मक परिभाषा को नेटिव सोर्स कोड में अनुवादित करके क्रॉस-भाषा डेटा प्रोसेसिंग को सक्षम बनाता है। यह दृष्टिकोण मैन्युअल रूप से पार्सिंग तर्क को फिर से लिखे बिना विभिन्न प्लेटफ़ॉर्म पर एक ही बाइनरी डेटा विनिर्देश को लागू करने की अनुमति देता है। यह फ्रेमवर्क बाइनरी डेटा मॉडलिंग और प्रोसेसिंग को कवर करता है, जिसमें ऑफ़सेट नेविगेशन के लिए रीड पॉइंटर्स को प्रबंधित करने और डीकम्प्रेशन व डिक्रिप्शन जैसे डेटा ट्रांसफॉर्मेशन लागू करने की क्षमता शामिल है। यह बाइनरी डेटा लेआउट और उनके घोषणात्मक विवरणों के बीच मैपिंग को मान्य करने के लिए फॉर्मेट विनिर्देश डिबगिंग के लिए टूल भी प्रदान करता है।
Allows developers to create portable binary schema definitions for file and network packet formats.
meta-rules-dat is a collection of binary-encoded network datasets used to identify and categorize traffic for routing on resource-constrained devices. It provides a structured domain categorization list and a geographic IP routing dataset to map network traffic to specific countries or service providers. The project utilizes trie-based lookup data and compact binary serialization to enable high-performance prefix matching and fast domain-to-category resolution. To minimize memory and storage overhead, it employs stripped-down GeoIP mapping that removes non-essential metadata. The datasets co
Implements compact binary serialization formats to minimize memory overhead and increase lookup speed.
Odin Serializer Unity गेम इंजन के लिए जटिल ऑब्जेक्ट ग्राफ़ को पर्सिस्टेंट बाइनरी या JSON प्रारूपों में बदलने के लिए डिज़ाइन किया गया एक फ्रेमवर्क है। यह डेटा की संरचनात्मक अखंडता बनाए रखते हुए, नेस्टेड जेनेरिक्स और पॉलीमॉर्फिक प्रकारों सहित जटिल क्लास संरचनाओं को सहेजने और लोड करने के लिए एक प्रणाली प्रदान करती है। फ्रेमवर्क अहेड-ऑफ-टाइम संकलन (compilation) के लिए अपने समर्थन के माध्यम से खुद को अलग करती है, जो रनटाइम रिफ्लेक्शन को प्रतिबंधित करने वाले प्लेटफॉर्म पर कार्यक्षमता सुनिश्चित करने के लिए बिल्ड प्रक्रिया के दौरान आवश्यक प्रकार का मेटाडेटा उत्पन्न करती है। यह सीधे Unity इंजन लाइफसाइकिल के साथ एकीकृत होती है, जो इंजन-विशिष्ट प्रकारों के सीरियलाइजेशन और अद्वितीय पर्सिस्टेंट पहचानकर्ताओं के माध्यम से बाहरी एसेट संदर्भों के प्रबंधन की अनुमति देती है। उपयोगकर्ता रूपांतरण प्रक्रिया के दौरान कौन से क्लास सदस्य शामिल या बाहर किए जाने हैं, इसे नियंत्रित करने के लिए दानेदार (granular) सीरियलाइजेशन नीतियों को परिभाषित कर सकते हैं। यह क्षमता केवल आवश्यक जानकारी को संसाधित करके डेटा भंडारण और ट्रांसमिशन के अनुकूलन की अनुमति देती है, जबकि अंतर्निहित इंजन जटिल इनहेरिटेंस पदानुक्रमों की रिकर्सिव मैपिंग को संभालता है।
Transforms complex object graphs into compact binary representations for efficient storage and transmission.
This project provides a collection of command-line administrative utilities designed for managing MongoDB database instances. It serves as the primary interface for performing database backups, restoring binary snapshots, and executing data migration tasks between database instances and external systems. The tools facilitate the movement of information by importing and exporting collections across various formats, including JSON, CSV, TSV, and binary files. Beyond migration, the suite includes specialized utilities for inspecting binary data files in a human-readable format and managing large
Uses a compact binary format to store and transmit complex data structures efficiently between the database and external files.