4 dépôts
Architectures for the incremental ingestion and parsing of concatenated JSON documents or streams.
Distinct from Stream Processing: Distinct from general Stream Processing: focuses specifically on JSON-formatted data streams rather than generic high-velocity data ingestion.
Explore 4 awesome GitHub repositories matching data & databases · JSON. Refine with filters or upvote what's useful.
simdjson is a high-performance, header-only C++ library designed for parsing, querying, and serializing JSON data with minimal memory overhead. It functions as a hardware-aware data processing engine that leverages vector instructions to achieve gigabyte-per-second parsing speeds. By detecting host processor capabilities at runtime, the library automatically selects the most efficient instruction sets to accelerate structural analysis and validation. The library distinguishes itself through a focus on extreme efficiency and resource management. It utilizes memory mapping and padded buffer ali
Handling continuous streams or concatenated JSON documents incrementally to maintain low memory usage while maintaining high throughput.
gjson is a Go JSON parser designed for schema-less reading and value extraction. It allows for the retrieval of specific data from JSON documents using dot-notation paths without requiring the definition of predefined Go structs. The library provides tools for path-based querying, including the use of wildcards and index-based queries to locate data within objects and arrays. It also functions as a JSON lines processor, treating multi-line documents as arrays to iterate and query individual entries. Additional capabilities include converting JSON values into native Go types such as strings,
Parses and iterates through multi-line JSON documents to handle large datasets or log files efficiently.
RapidJSON is a high-performance C++ library used for parsing and generating JSON data. It provides both document object model and stream-based interfaces to transform JSON strings into structured data and vice versa. The library includes a JSON schema validator to verify that documents conform to predefined rules and a Unicode transcoder for converting strings between UTF-8, UTF-16, and UTF-32 encodings. It also supports relaxed parsing for non-standard JSON containing comments or trailing commas. Additional capabilities cover JSON pointer navigation for locating specific values and string s
Supports parsing large JSON documents in parts across multiple threads to prevent interface freezing.
oboe.js est un analyseur JSON en streaming et un client HTTP stream conçu pour le traitement incrémentiel des données. Il permet aux applications d'agir sur des objets JSON individuels dès leur arrivée via une requête réseau ou un flux lisible, avant même que le téléchargement complet ne soit terminé. La bibliothèque fonctionne comme un transformateur de flux JSON, permettant la modification, le filtrage et le mappage des nœuds à la volée. Elle propose une sélection de nœuds basée sur le chemin pour déclencher des rappels (callbacks) lorsque des modèles spécifiques sont détectés, et peut fermer une connexion réseau prématurément une fois les données requises trouvées afin d'économiser la bande passante. Pour gérer des jeux de données dépassant la mémoire système disponible, la bibliothèque utilise une gestion de la mémoire basée sur les flux pour supprimer les nœuds traités. Elle prend également en charge la fusion d'enregistrements historiques avec des mises à jour en temps réel via des connexions longue durée, et offre la possibilité de récupérer des données partielles en cas de coupure de connexion.
Processes incoming JSON data incrementally, enabling the application to act on individual objects before the full response is received.