11 Repos
Formats that encode data structures into binary representations independent of specific programming languages or hardware architectures.
Explore 11 awesome GitHub repositories matching data & databases · Language-Neutral Data Serialization. Refine with filters or upvote what's useful.
SecLists is a centralized library of security assessment data designed to support vulnerability discovery and penetration testing. It functions as a comprehensive repository of wordlists, payloads, and testing methodologies used to audit software, firmware, and internet-connected hardware for technical vulnerabilities. The project distinguishes itself through a standardized taxonomy and a language-agnostic data format, which allows security tools to predictably ingest and utilize its assets regardless of the underlying programming environment. By decoupling raw testing data from execution log
Uses a language-agnostic, raw character data format for payloads and wordlists.
Protocol Buffers is a binary serialization framework used to encode structured information into compact payloads to reduce network bandwidth and storage. It functions as a cross-language data interchange standard that enables different platforms and languages to exchange structured data using a shared schema. The project includes an interface definition language compiler that transforms schema definitions into type-safe source code for multiple target programming languages. This mechanism decouples data structures from specific language memory layouts and ensures consistent data handling acro
Encodes structured data into binary representations that are independent of specific programming languages.
Protocol Buffers ist ein sprachneutraler, plattformunabhängiger Mechanismus zur Serialisierung strukturierter Daten. Es bietet eine schema-gesteuerte Toolchain, die deklarative Datendefinitionen in typsicheren Quellcode kompiliert und so eine konsistente Kommunikation und stark typisierte API-Verträge über Dienste hinweg ermöglicht, die in verschiedenen Programmiersprachen geschrieben sind. Das Projekt zeichnet sich durch ein hocheffizientes binäres Wire-Format aus, das tag-basiertes Encoding und eine Komprimierung von Ganzzahlen mit variabler Breite nutzt, um Payload-Größe und Verarbeitungs-Overhead zu minimieren. Es unterstützt ein robustes, evolutionäres Schema-Management, das es Entwicklern ermöglicht, Datenstrukturen inkrementell zu aktualisieren und dabei Abwärts- und Aufwärtskompatibilität zu wahren. Dies wird zusätzlich durch ein versioniertes Edition-System unterstützt, das Feature-Sets und Serialisierungslogik über verteilte Softwarekomponenten hinweg verwaltet. Über die binäre Kern-Serialisierung hinaus umfasst das Projekt Funktionen für die kanonische JSON-Konvertierung mit Schema-Validierung, granulare Symbol-Sichtbarkeitskontrolle und Feld-Präsenzverfolgung, um zwischen Standard- und nicht gesetzten Werten zu unterscheiden. Es bietet zudem spezialisierte Optimierungen, wie Arena-basiertes Speichermanagement für C++-Implementierungen, um die Performance bei der Erstellung und Bereinigung komplexer Nachrichtenbäume zu verbessern.
Converts structured data into a universal binary format that remains independent of specific hardware architectures or programming languages.
Arrow is a cross-language development platform for in-memory data. It provides a standardized, language-independent columnar memory format designed to accelerate analytical operations and improve memory efficiency on modern computing hardware. By utilizing a schema-driven approach, the framework enables the efficient organization of both flat and nested data structures. The project functions as an analytical data processing engine that facilitates high-performance computation directly on memory-resident datasets. It distinguishes itself through a zero-copy architecture, which allows multiple
Provides a framework for moving large datasets between systems using shared memory to eliminate serialization overhead.
This project provides a comprehensive collection of English vocabulary designed for programmatic access, dictionary lookups, and linguistic research. It serves as a structured repository of words formatted for integration into software development tasks, including natural language processing and text analysis. The dataset is distributed as static, schema-less files in plain text and universal serialization formats. This approach allows the vocabulary to be consumed by any programming language or runtime environment without requiring external dependencies or complex indexing. The repository s
Encodes word lists in universal formats like JSON and plain text for cross-language consumption.
Thrift ist ein sprachübergreifendes Remote-Procedure-Call-Framework (RPC) und Datenserialisierungsprotokoll. Es bietet eine Interface-Definition-Sprache (IDL), um Datentypen und Service-Interfaces in einem neutralen Format zu spezifizieren, was die automatisierte Generierung von Client- und Server-Code über mehrere Programmiersprachen hinweg ermöglicht. Das Projekt fungiert als polyglotter Service-Kommunikator, der einen geschichteten Software-Stack verwendet, um eine interoperable Kommunikation zu gewährleisten. Es konzentriert sich auf die Implementierung sprachübergreifender RPCs und die Transformation komplexer Datenstrukturen in standardisierte Formate für einen effizienten Netzwerktransport. Das Framework enthält Funktionen für das Management der API-Versionskompatibilität, um nicht-atomare Updates zwischen Clients und Servern zu unterstützen. Es bietet zudem Mechanismen zur Verifizierung der Datenintegrität und zur Validierung, dass sich Services über verschiedene Sprachimplementierungen hinweg identisch verhalten.
Provides language-neutral binary serialization for encoding complex data structures independently of specific programming languages.
Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis
Supports language-independent schematic serialization for efficient storage and partial deserialization.
Fury ist ein sprachübergreifendes Framework für binäre Serialisierung, das für die Kodierung von Domänenobjekten und komplexen Graphen entwickelt wurde, um den Datenaustausch zwischen verschiedenen Sprachen zu erleichtern. Es enthält einen Compiler für eine Interface Definition Language (IDL), der Schemadefinitionen in idiomatische native Typen und Serialisierungs-Boilerplate über mehrere Sprachen hinweg übersetzt. Das Projekt zeichnet sich durch einen Zero-Copy-Binär-Reader aus, der den Zugriff auf spezifische Felder ermöglicht, ohne das gesamte Objekt zu deserialisieren, sowie durch einen Objekt-Graph-Serializer, der zirkuläre Referenzen und referenzielle Integrität bewahrt. Es enthält zudem einen Datenkonverter, der zeilenbasierte Binärdaten für analytische Workloads in spaltenbasierte Apache-Arrow-Formate transformiert. Das Framework deckt breite Funktionsbereiche ab, einschließlich metadatengesteuerter Schema-Evolution für Vorwärts- und Rückwärtskompatibilität, einen AOT-Kompilierungsprozess zur Eliminierung von Laufzeit-Reflektion und sichere Deserialisierung durch Whitelist-basierte Typvalidierung. Es bietet zudem Integration für hochperformante Remote Procedure Calls via gRPC.
Implements a portable binary wire format for encoding data structures independently of specific languages or architectures.
Fory is a cross-language serialization framework and binary data serializer designed to convert complex object graphs into a compact binary format for high-performance data exchange. It includes an IDL-based schema compiler to transform interface definition language files into type-safe native data models and a schema evolution manager to maintain forward and backward compatibility. The project features a zero-copy data access layer that allows reading specific fields from binary rows without deserializing the entire object. It supports dual-mode serialization, enabling a toggle between a por
Converts complex data structures into a compact binary format for efficient exchange between different programming languages.
This project is a suite of tools for generating encoded shell commands and network listener configurations used in offensive security operations. It provides a collection of command generators for various shells and listeners to establish remote access during security penetration tests. The tool features a reverse shell payload generator that creates encoded command strings and a network listener command generator that produces the server-side syntax needed to accept incoming network connections. It includes a Base64 command encoder to transform shell commands into encoded strings to bypass s
Formats shell commands into specific character-based data structures for delivery via web requests.
RoaringBitmap is a compressed integer set library designed for memory-efficient storage and high-speed in-memory analytics. It provides a professional implementation of the Roaring Bitmap format to maintain compact representations of integer collections. The project features a standardized binary serialization format that enables the exchange of compressed bitmap data across different programming languages and hardware architectures. This allows for consistent data portability and cross-language data exchange. The library performs rapid logical set operations, including intersections, unions
Provides a standardized binary serialization format that ensures data portability across languages and architectures.