3 dépôts
On-demand processing pipelines for mapping, filtering, and reducing data streams.
Distinct from Lazy Stream Sources: Candidates focus on specific target streaming or DOM events; this is a general functional programming stream utility.
Explore 3 awesome GitHub repositories matching data & databases · Lazy Stream Processing. Refine with filters or upvote what's useful.
Lancet est une extension complète de la bibliothèque standard Go, fournissant une collection de fonctions réutilisables et de structures de données conçues pour réduire le code répétitif (boilerplate) dans les applications. Il sert de boîte à outils polyvalente couvrant plusieurs domaines, dont la concurrence, la sécurité, le réseau et la logique fonctionnelle. Le projet se distingue par des outils spécialisés pour la concurrence en Go, tels que le verrouillage par clé et le traitement de flux basé sur les canaux, ainsi qu'un kit de programmation fonctionnelle dédié qui prend en charge le currying et la composition de fonctions. Il inclut également une bibliothèque de cryptographie dédiée implémentant le chiffrement symétrique et asymétrique via les standards AES, RSA et SM. La bibliothèque couvre un large éventail de domaines, incluant des structures de données avancées comme les caches LRU et les arbres de recherche binaire, le calcul mathématique pour l'algèbre et les statistiques, et l'intégration au système d'exploitation pour la gestion des processus et des fichiers. Elle fournit en outre des utilitaires pour le réseau HTTP, la manipulation de dates et d'heures, et le traitement de données de haut niveau comme l'algèbre des ensembles et l'évaluation de flux paresseux.
Creates lazy streams from slices or channels to perform mapping, filtering, and reduction.
dsq is a command-line utility that enables SQL-based analysis of local files by treating them as relational database tables. It allows users to execute standard SQL queries against heterogeneous data formats, including JSON, CSV, Excel, and Parquet, without requiring a formal database import process. The tool distinguishes itself by providing a persistent interactive shell for iterative data exploration and schema inspection. It supports complex operations such as joining data across multiple disparate files and converting between structured formats by applying SQL transformations to the inpu
Reads and processes data records incrementally from source files to maintain low memory usage during large dataset operations.
Csvlens is a command-line utility designed for the inspection and navigation of large structured tabular files. It provides a terminal-based interface that allows users to view, sort, and filter datasets directly within the command line without the memory overhead associated with loading entire files into spreadsheet applications. The tool utilizes memory-mapped file access and lazy-loading data streams to maintain a constant memory footprint, regardless of the total size of the source document. By identifying field boundaries during an initial scan, it enables efficient column-specific opera
Processes input files as sequential streams to maintain a constant memory footprint regardless of the total size of the source document.