11 repositorios
Formats that encode data structures into binary representations independent of specific programming languages or hardware architectures.
Explore 11 awesome GitHub repositories matching data & databases · Language-Neutral Data Serialization. Refine with filters or upvote what's useful.
SecLists is a centralized library of security assessment data designed to support vulnerability discovery and penetration testing. It functions as a comprehensive repository of wordlists, payloads, and testing methodologies used to audit software, firmware, and internet-connected hardware for technical vulnerabilities. The project distinguishes itself through a standardized taxonomy and a language-agnostic data format, which allows security tools to predictably ingest and utilize its assets regardless of the underlying programming environment. By decoupling raw testing data from execution log
Uses a language-agnostic, raw character data format for payloads and wordlists.
Protocol Buffers is a binary serialization framework used to encode structured information into compact payloads to reduce network bandwidth and storage. It functions as a cross-language data interchange standard that enables different platforms and languages to exchange structured data using a shared schema. The project includes an interface definition language compiler that transforms schema definitions into type-safe source code for multiple target programming languages. This mechanism decouples data structures from specific language memory layouts and ensures consistent data handling acro
Encodes structured data into binary representations that are independent of specific programming languages.
Protocol Buffers es un mecanismo neutral al lenguaje y agnóstico a la plataforma para serializar datos estructurados. Proporciona una cadena de herramientas basada en esquemas que compila definiciones de datos declarativas en código fuente con seguridad de tipos, lo que permite una comunicación consistente y contratos de API fuertemente tipados en servicios escritos en diferentes lenguajes de programación. El proyecto se distingue por un formato binario altamente eficiente que utiliza codificación basada en etiquetas y compresión de enteros de ancho variable para minimizar el tamaño de la carga útil y la sobrecarga de procesamiento. Admite una gestión evolutiva y robusta de esquemas, lo que permite a los desarrolladores actualizar las estructuras de datos de forma incremental mientras mantienen la compatibilidad hacia atrás y hacia adelante. Esto se ve reforzado por un sistema de edición versionado que gestiona conjuntos de funciones y lógica de serialización en componentes de software distribuidos. Más allá de su serialización binaria central, el proyecto incluye capacidades para la conversión a JSON canónico con validación de esquemas, control granular de visibilidad de símbolos y seguimiento de presencia de campos para distinguir entre valores predeterminados y no establecidos. También proporciona optimizaciones especializadas, como la gestión de memoria basada en arena (arena-based) para implementaciones en C++, para mejorar el rendimiento durante la creación y limpieza de árboles de mensajes complejos.
Converts structured data into a universal binary format that remains independent of specific hardware architectures or programming languages.
Arrow is a cross-language development platform for in-memory data. It provides a standardized, language-independent columnar memory format designed to accelerate analytical operations and improve memory efficiency on modern computing hardware. By utilizing a schema-driven approach, the framework enables the efficient organization of both flat and nested data structures. The project functions as an analytical data processing engine that facilitates high-performance computation directly on memory-resident datasets. It distinguishes itself through a zero-copy architecture, which allows multiple
Provides a framework for moving large datasets between systems using shared memory to eliminate serialization overhead.
This project provides a comprehensive collection of English vocabulary designed for programmatic access, dictionary lookups, and linguistic research. It serves as a structured repository of words formatted for integration into software development tasks, including natural language processing and text analysis. The dataset is distributed as static, schema-less files in plain text and universal serialization formats. This approach allows the vocabulary to be consumed by any programming language or runtime environment without requiring external dependencies or complex indexing. The repository s
Encodes word lists in universal formats like JSON and plain text for cross-language consumption.
Thrift es un framework de llamada a procedimiento remoto (RPC) y protocolo de serialización de datos entre lenguajes. Proporciona un lenguaje de definición de interfaz (IDL) para especificar tipos de datos e interfaces de servicio en un formato neutral, permitiendo la generación automatizada de código de cliente y servidor en múltiples lenguajes de programación. El proyecto funciona como un comunicador de servicios políglota utilizando un stack de software en capas para garantizar una comunicación interoperable. Se centra en implementar llamadas a procedimientos remotos entre lenguajes y transformar estructuras de datos complejas en formatos estandarizados para un transporte de red eficiente. El framework incluye capacidades para gestionar la compatibilidad de versiones de API para admitir actualizaciones no atómicas entre clientes y servidores. También proporciona mecanismos para verificar la integridad de los datos y validar que los servicios se comporten de manera idéntica a través de diferentes implementaciones de lenguaje.
Provides language-neutral binary serialization for encoding complex data structures independently of specific programming languages.
Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis
Supports language-independent schematic serialization for efficient storage and partial deserialization.
Fury es un framework de serialización binaria multilenguaje diseñado para codificar objetos de dominio y grafos complejos para facilitar el intercambio de datos entre lenguajes. Incluye un compilador de lenguaje de definición de interfaz (IDL) que traduce definiciones de esquemas a tipos nativos idiomáticos y código repetitivo de serialización en múltiples lenguajes. El proyecto se distingue por un lector binario de copia cero (zero-copy) que permite acceder a campos específicos sin deserializar todo el objeto, así como un serializador de grafos de objetos que preserva las referencias circulares y la integridad referencial. También cuenta con un convertidor de datos que transforma datos binarios basados en filas a formatos columnares de Apache Arrow para cargas de trabajo analíticas. El framework cubre amplias áreas de capacidad, incluyendo la evolución de esquemas basada en metadatos para compatibilidad hacia adelante y hacia atrás, un proceso de compilación AOT en tiempo de construcción para eliminar la reflexión en tiempo de ejecución y la deserialización segura mediante validación de tipos basada en listas blancas. Además, proporciona integración para llamadas a procedimientos remotos de alto rendimiento a través de gRPC.
Implements a portable binary wire format for encoding data structures independently of specific languages or architectures.
Fory is a cross-language serialization framework and binary data serializer designed to convert complex object graphs into a compact binary format for high-performance data exchange. It includes an IDL-based schema compiler to transform interface definition language files into type-safe native data models and a schema evolution manager to maintain forward and backward compatibility. The project features a zero-copy data access layer that allows reading specific fields from binary rows without deserializing the entire object. It supports dual-mode serialization, enabling a toggle between a por
Converts complex data structures into a compact binary format for efficient exchange between different programming languages.
This project is a suite of tools for generating encoded shell commands and network listener configurations used in offensive security operations. It provides a collection of command generators for various shells and listeners to establish remote access during security penetration tests. The tool features a reverse shell payload generator that creates encoded command strings and a network listener command generator that produces the server-side syntax needed to accept incoming network connections. It includes a Base64 command encoder to transform shell commands into encoded strings to bypass s
Formats shell commands into specific character-based data structures for delivery via web requests.
RoaringBitmap is a compressed integer set library designed for memory-efficient storage and high-speed in-memory analytics. It provides a professional implementation of the Roaring Bitmap format to maintain compact representations of integer collections. The project features a standardized binary serialization format that enables the exchange of compressed bitmap data across different programming languages and hardware architectures. This allows for consistent data portability and cross-language data exchange. The library performs rapid logical set operations, including intersections, unions
Provides a standardized binary serialization format that ensures data portability across languages and architectures.