11 repository-uri
Formats that encode data structures into binary representations independent of specific programming languages or hardware architectures.
Explore 11 awesome GitHub repositories matching data & databases · Language-Neutral Data Serialization. Refine with filters or upvote what's useful.
SecLists is a centralized library of security assessment data designed to support vulnerability discovery and penetration testing. It functions as a comprehensive repository of wordlists, payloads, and testing methodologies used to audit software, firmware, and internet-connected hardware for technical vulnerabilities. The project distinguishes itself through a standardized taxonomy and a language-agnostic data format, which allows security tools to predictably ingest and utilize its assets regardless of the underlying programming environment. By decoupling raw testing data from execution log
Uses a language-agnostic, raw character data format for payloads and wordlists.
Protocol Buffers is a binary serialization framework used to encode structured information into compact payloads to reduce network bandwidth and storage. It functions as a cross-language data interchange standard that enables different platforms and languages to exchange structured data using a shared schema. The project includes an interface definition language compiler that transforms schema definitions into type-safe source code for multiple target programming languages. This mechanism decouples data structures from specific language memory layouts and ensures consistent data handling acro
Encodes structured data into binary representations that are independent of specific programming languages.
Protocol Buffers este un mecanism neutru față de limbaj și platformă pentru serializarea datelor structurate. Oferă un toolchain bazat pe schemă care compilează definiții de date declarative în cod sursă type-safe, permițând o comunicare consistentă și contracte API puternic tipizate între servicii scrise în diferite limbaje de programare. Proiectul se distinge printr-un format binar de rețea extrem de eficient care utilizează codificarea bazată pe tag-uri și compresia întregilor cu lățime variabilă pentru a minimiza dimensiunea payload-ului și overhead-ul de procesare. Suportă gestionarea robustă a schemelor evolutive, permițând dezvoltatorilor să actualizeze structurile de date incremental, menținând în același timp compatibilitatea inversă și înainte. Acest lucru este susținut în continuare de un sistem de ediții versionate care gestionează seturile de funcționalități și logica de serializare între componentele software distribuite. Dincolo de serializarea binară de bază, proiectul include capabilități pentru conversia JSON canonică cu validarea schemei, controlul granular al vizibilității simbolurilor și urmărirea prezenței câmpurilor pentru a distinge între valorile implicite și cele nesetate. De asemenea, oferă optimizări specializate, cum ar fi gestionarea memoriei bazată pe arenă pentru implementările C++, pentru a îmbunătăți performanța în timpul creării și curățării arborilor de mesaje complecși.
Converts structured data into a universal binary format that remains independent of specific hardware architectures or programming languages.
Arrow is a cross-language development platform for in-memory data. It provides a standardized, language-independent columnar memory format designed to accelerate analytical operations and improve memory efficiency on modern computing hardware. By utilizing a schema-driven approach, the framework enables the efficient organization of both flat and nested data structures. The project functions as an analytical data processing engine that facilitates high-performance computation directly on memory-resident datasets. It distinguishes itself through a zero-copy architecture, which allows multiple
Provides a framework for moving large datasets between systems using shared memory to eliminate serialization overhead.
This project provides a comprehensive collection of English vocabulary designed for programmatic access, dictionary lookups, and linguistic research. It serves as a structured repository of words formatted for integration into software development tasks, including natural language processing and text analysis. The dataset is distributed as static, schema-less files in plain text and universal serialization formats. This approach allows the vocabulary to be consumed by any programming language or runtime environment without requiring external dependencies or complex indexing. The repository s
Encodes word lists in universal formats like JSON and plain text for cross-language consumption.
Thrift este un framework de apeluri de proceduri la distanță (RPC) și un protocol de serializare a datelor cross-language. Acesta oferă un limbaj de definire a interfeței (IDL) pentru a specifica tipurile de date și interfețele de servicii într-un format neutru, permițând generarea automată a codului de client și server în mai multe limbaje de programare. Proiectul funcționează ca un comunicator de servicii poliglot, utilizând un stack software stratificat pentru a asigura o comunicare interoperabilă. Se concentrează pe implementarea apelurilor de proceduri la distanță cross-language și transformarea structurilor de date complexe în formate standardizate pentru un transport eficient în rețea. Framework-ul include capabilități pentru gestionarea compatibilității versiunilor API pentru a suporta actualizări non-atomice între clienți și servere. De asemenea, oferă mecanisme pentru verificarea integrității datelor și validarea faptului că serviciile se comportă identic în diferite implementări de limbaje.
Provides language-neutral binary serialization for encoding complex data structures independently of specific programming languages.
Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis
Supports language-independent schematic serialization for efficient storage and partial deserialization.
Fury este un framework de serializare binară multi-limbaj conceput pentru encodarea obiectelor de domeniu și a grafurilor complexe, pentru a facilita schimbul de date între limbaje. Include un compilator de limbaj de definire a interfețelor (IDL) care traduce definițiile de schemă în tipuri native idiomatice și boilerplate de serializare în mai multe limbaje. Proiectul se distinge printr-un cititor binar zero-copy care permite accesarea unor câmpuri specifice fără a deserializa întregul obiect, precum și un serializator de grafuri de obiecte care păstrează referințele circulare și integritatea referențială. De asemenea, dispune de un convertor de date care transformă datele binare bazate pe rânduri în formate coloanare Apache Arrow pentru sarcini analitice. Framework-ul acoperă domenii largi de capabilități, inclusiv evoluția schemei bazată pe metadate pentru compatibilitate înainte și înapoi, un proces de compilare AOT (Ahead-Of-Time) pentru a elimina reflexia la runtime și deserializarea securizată prin validarea tipurilor bazată pe whitelist. Oferă, de asemenea, integrare pentru apeluri de proceduri la distanță de înaltă performanță prin gRPC.
Implements a portable binary wire format for encoding data structures independently of specific languages or architectures.
Fory is a cross-language serialization framework and binary data serializer designed to convert complex object graphs into a compact binary format for high-performance data exchange. It includes an IDL-based schema compiler to transform interface definition language files into type-safe native data models and a schema evolution manager to maintain forward and backward compatibility. The project features a zero-copy data access layer that allows reading specific fields from binary rows without deserializing the entire object. It supports dual-mode serialization, enabling a toggle between a por
Converts complex data structures into a compact binary format for efficient exchange between different programming languages.
This project is a suite of tools for generating encoded shell commands and network listener configurations used in offensive security operations. It provides a collection of command generators for various shells and listeners to establish remote access during security penetration tests. The tool features a reverse shell payload generator that creates encoded command strings and a network listener command generator that produces the server-side syntax needed to accept incoming network connections. It includes a Base64 command encoder to transform shell commands into encoded strings to bypass s
Formats shell commands into specific character-based data structures for delivery via web requests.
RoaringBitmap is a compressed integer set library designed for memory-efficient storage and high-speed in-memory analytics. It provides a professional implementation of the Roaring Bitmap format to maintain compact representations of integer collections. The project features a standardized binary serialization format that enables the exchange of compressed bitmap data across different programming languages and hardware architectures. This allows for consistent data portability and cross-language data exchange. The library performs rapid logical set operations, including intersections, unions
Provides a standardized binary serialization format that ensures data portability across languages and architectures.