8 repositorios
Methods for removing duplicate records from result sets or counting unique values across columns.
Distinct from Row Duplication: Existing candidates focus on row duplication or specific URL filtering, not general SQL deduplication.
Explore 8 awesome GitHub repositories matching data & databases · Duplicate Row Filtering. Refine with filters or upvote what's useful.
pysheeet es una biblioteca de referencia técnica que proporciona una colección curada de fragmentos de código y patrones de implementación para el desarrollo avanzado en Python, integración de sistemas y computación de alto rendimiento. Sirve como una guía completa para implementar programación de red de bajo nivel, extensiones nativas en C y programación asíncrona y concurrente. El proyecto proporciona frameworks especializados para el desarrollo y despliegue de modelos de lenguaje de gran tamaño, incluyendo herramientas para inferencia distribuida en GPU y servicio de alto rendimiento. También incluye patrones detallados para la orquestación de clústeres de computación de alto rendimiento, cubriendo la asignación de recursos de GPU y la gestión de cargas de trabajo en múltiples nodos. La biblioteca cubre una amplia superficie de capacidades, incluyendo comunicación de red segura y criptografía, mapeo objeto-relacional y gestión de bases de datos, y la implementación de estructuras de datos y algoritmos complejos. También proporciona utilidades para la gestión de memoria, interoperabilidad nativa a través de interfaces de funciones externas e integración de sistemas operativos a nivel de sistema.
Provides techniques for removing duplicate records and counting unique values across database columns.
Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis
Removes redundant entries from data streams by applying distinct operations to incoming records.
Pinot is a distributed, columnar analytical database designed for high-concurrency, low-latency query processing. It functions as a real-time OLAP datastore, enabling interactive, user-facing analytics by ingesting and querying massive datasets from both streaming and batch sources. The system architecture relies on a centralized controller for cluster coordination and a distributed segment-based storage model to ensure horizontal scalability. The platform distinguishes itself through a hybrid ingestion pipeline that unifies real-time event streams and historical batch data into a single quer
Identifies and discards redundant incoming events based on unique keys to maintain a clean dataset without repeated entries.
Este proyecto es un tutorial completo de análisis de datos de pandas y guía de instrucción diseñada para aprender la manipulación y el análisis de datos. Sirve como una guía de procesamiento de datos tabulares y un manual para el análisis de series temporales, proporcionando un enfoque estructurado para limpiar, fusionar y transformar conjuntos de datos. El repositorio funciona como un curso de ingeniería de características de datos, proporcionando tutoriales sobre la construcción y selección de características de conjuntos de datos para mejorar el rendimiento del modelo de aprendizaje automático. También incluye una guía de operaciones de datos vectorizadas para realizar cálculos matemáticos elemento a elemento y manipulaciones de matrices. El material cubre una amplia gama de capacidades, incluyendo flujos de trabajo de limpieza de datos, tareas de integración de datos y análisis de datos tabulares. Proporciona orientación sobre el procesamiento de información textual, el manejo de datos categóricos y la optimización de la velocidad de ejecución para grandes conjuntos de datos. El proyecto se entrega como una serie de Jupyter Notebooks que contienen ejercicios prácticos y problemas de práctica específicos.
Demonstrates methods for removing duplicate records to ensure uniqueness across datasets.
dtale es una cuadrícula interactiva basada en web y visualizador para dataframes de pandas, diseñado como una herramienta de análisis de datos exploratorio. Proporciona una interfaz basada en navegador para analizar estructuras de datos tabulares, permitiendo a los usuarios calcular estadísticas, detectar valores atípicos y calcular correlaciones sin escribir código manual. El proyecto funciona como un visor de datos integrado que puede integrarse en aplicaciones web a través de iframes o rutas personalizadas, con soporte específico para Django, Flask y Streamlit. Permite la exploración de conjuntos de datos a través de una combinación de una cuadrícula de datos interactiva y una biblioteca de visualización de datos capaz de generar histogramas, diagramas de caja y gráficos de dispersión 3D. La plataforma cubre una amplia gama de capacidades de gestión y análisis de datos, incluyendo limpieza de datos tabulares, remodelación y filtrado interactivo. Incluye herramientas de observabilidad para el análisis de datos faltantes, cálculo de correlación y puntuación de poder predictivo. Para la gestión de sesiones, admite el seguimiento de múltiples instancias y la persistencia del estado en procesos de trabajo concurrentes. La interfaz está protegida por autenticación de nombre de usuario y contraseña y admite la ingesta de datos desde archivos delimitados, hojas de cálculo y almacenes de datos ArcticDB.
Identifies and removes duplicate rows and columns with options to export them for review.
dplyr es una librería de manipulación de datos en R que proporciona una gramática para transformar data frames tabulares. Funciona como un procesador de data frames en memoria y una herramienta de álgebra de datos relacionales, utilizando un conjunto consistente de verbos para filtrar, seleccionar y resumir datos. El proyecto incluye un motor de traducción SQL que convierte expresiones de manipulación de datos de alto nivel en consultas optimizadas. Esto permite a los usuarios realizar transformaciones directamente en bases de datos relacionales remotas y almacenamiento en la nube sin necesidad de descargar los datos localmente. La librería cubre una amplia gama de operaciones tabulares, incluyendo la mutación de columnas, el subconjunto de filas y la unión de datos relacionales. También proporciona capacidades para el análisis de datos agrupados, permitiendo particionar conjuntos de datos para realizar agregaciones y resúmenes independientes.
Implements methods for removing duplicate records and keeping unique value combinations across columns.
Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di
Removes duplicate records from result sets to ensure uniqueness.
This project is a high-performance tabular data processing framework for R, designed to handle massive datasets with memory efficiency and speed. It provides an enhanced data structure that utilizes reference semantics and in-place modification to perform complex transformations without the overhead of unnecessary object copying. The library distinguishes itself through its low-level architectural optimizations, including multi-threaded parallel processing, radix-based sorting, and memory-mapped file parsing. By offloading critical data manipulation and aggregation routines to compiled C code
Removes duplicate records from result sets or counts unique values across columns.