3 repositorios
High-performance engines for aggregating and rearranging datasets stored in system memory.
Distinct from In-Memory Data Stores: Distinct from In-Memory Data Stores, which focuses on storage and retrieval, whereas this focuses on the processing and transformation of the data.
Explore 3 awesome GitHub repositories matching data & databases · In-Memory Data Processors. Refine with filters or upvote what's useful.
dplyr es una librería de manipulación de datos en R que proporciona una gramática para transformar data frames tabulares. Funciona como un procesador de data frames en memoria y una herramienta de álgebra de datos relacionales, utilizando un conjunto consistente de verbos para filtrar, seleccionar y resumir datos. El proyecto incluye un motor de traducción SQL que convierte expresiones de manipulación de datos de alto nivel en consultas optimizadas. Esto permite a los usuarios realizar transformaciones directamente en bases de datos relacionales remotas y almacenamiento en la nube sin necesidad de descargar los datos localmente. La librería cubre una amplia gama de operaciones tabulares, incluyendo la mutación de columnas, el subconjunto de filas y la unión de datos relacionales. También proporciona capacidades para el análisis de datos agrupados, permitiendo particionar conjuntos de datos para realizar agregaciones y resúmenes independientes.
Implements a high-performance engine for aggregating and rearranging tabular datasets stored in system memory.
Mapshaper es una herramienta para procesar, simplificar y convertir datos vectoriales geográficos, disponible como interfaz de línea de comandos, herramienta de navegador web y librería de Node.js. Funciona como un proyector de coordenadas, convertidor de datos vectoriales y optimizador de activos de mapas web diseñado para transformar conjuntos de datos espaciales entre diferentes sistemas de referencia de coordenadas y formatos de archivo. El proyecto se distingue por su simplificación de geometría que preserva la topología, lo que reduce el número de vértices mientras mantiene los límites compartidos para evitar huecos y superposiciones. Además, optimiza los activos para la web mediante la cuantización de coordenadas y el filtrado de atributos para reducir el tamaño de los archivos. El sistema cubre una amplia gama de capacidades, incluyendo reproyección de coordenadas utilizando cadenas PROJ y códigos EPSG, y conversión de datos entre formatos como Shapefile, GeoJSON, TopoJSON, GeoPackage y KML. Proporciona amplias herramientas de procesamiento de geometría para buffering, recorte, disolución y reparación de topologías, así como utilidades de gestión de datos para unión, filtrado y transformación de atributos. Además, incluye funciones de visualización para generar exportaciones SVG estilizadas, retículas y mapas de símbolos proporcionales. Las capacidades de procesamiento espacial pueden integrarse directamente en aplicaciones JavaScript y tuberías de construcción (build pipelines) a través de su librería de Node.js.
Processes and transforms spatial datasets directly in system memory to avoid expensive disk I/O.
This project is a high-performance tabular data processing framework for R, designed to handle massive datasets with memory efficiency and speed. It provides an enhanced data structure that utilizes reference semantics and in-place modification to perform complex transformations without the overhead of unnecessary object copying. The library distinguishes itself through its low-level architectural optimizations, including multi-threaded parallel processing, radix-based sorting, and memory-mapped file parsing. By offloading critical data manipulation and aggregation routines to compiled C code
Provides a high-speed in-memory engine for filtering, grouping, and reshaping large-scale datasets.