awesome-repositories.com
Blog
awesome-repositories.com

Descubre los mejores repositorios open-source con nuestra búsqueda potenciada por IA.

ExplorarBúsquedas curadasAlternativas open-sourceSoftware autohospedableBlogMapa del sitio
ProyectoAcerca deCómo clasificamosPrensaServidor MCP
Aviso legalPrivacidadTérminos
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

8 repositorios

Awesome GitHub RepositoriesDuplicate Row Filtering

Methods for removing duplicate records from result sets or counting unique values across columns.

Distinct from Row Duplication: Existing candidates focus on row duplication or specific URL filtering, not general SQL deduplication.

Explore 8 awesome GitHub repositories matching data & databases · Duplicate Row Filtering. Refine with filters or upvote what's useful.

Awesome Duplicate Row Filtering GitHub Repositories

Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
  • crazyguitar/pysheeetAvatar de crazyguitar

    crazyguitar/pysheeet

    8,150Ver en GitHub↗

    pysheeet es una biblioteca de referencia técnica que proporciona una colección curada de fragmentos de código y patrones de implementación para el desarrollo avanzado en Python, integración de sistemas y computación de alto rendimiento. Sirve como una guía completa para implementar programación de red de bajo nivel, extensiones nativas en C y programación asíncrona y concurrente. El proyecto proporciona frameworks especializados para el desarrollo y despliegue de modelos de lenguaje de gran tamaño, incluyendo herramientas para inferencia distribuida en GPU y servicio de alto rendimiento. También incluye patrones detallados para la orquestación de clústeres de computación de alto rendimiento, cubriendo la asignación de recursos de GPU y la gestión de cargas de trabajo en múltiples nodos. La biblioteca cubre una amplia superficie de capacidades, incluyendo comunicación de red segura y criptografía, mapeo objeto-relacional y gestión de bases de datos, y la implementación de estructuras de datos y algoritmos complejos. También proporciona utilidades para la gestión de memoria, interoperabilidad nativa a través de interfaces de funciones externas e integración de sistemas operativos a nivel de sistema.

    Provides techniques for removing duplicate records and counting unique values across database columns.

    Python
    Ver en GitHub↗8,150
  • hazelcast/hazelcastAvatar de hazelcast

    hazelcast/hazelcast

    6,570Ver en GitHub↗

    Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis

    Removes redundant entries from data streams by applying distinct operations to incoming records.

    Javabig-datacachingdata-in-motion
    Ver en GitHub↗6,570
  • apache/pinotAvatar de apache

    apache/pinot

    6,098Ver en GitHub↗

    Pinot is a distributed, columnar analytical database designed for high-concurrency, low-latency query processing. It functions as a real-time OLAP datastore, enabling interactive, user-facing analytics by ingesting and querying massive datasets from both streaming and batch sources. The system architecture relies on a centralized controller for cluster coordination and a distributed segment-based storage model to ensure horizontal scalability. The platform distinguishes itself through a hybrid ingestion pipeline that unifies real-time event streams and historical batch data into a single quer

    Identifies and discards redundant incoming events based on unique keys to maintain a clean dataset without repeated entries.

    Java
    Ver en GitHub↗6,098
  • datawhalechina/joyful-pandasAvatar de datawhalechina

    datawhalechina/joyful-pandas

    5,164Ver en GitHub↗

    Este proyecto es un tutorial completo de análisis de datos de pandas y guía de instrucción diseñada para aprender la manipulación y el análisis de datos. Sirve como una guía de procesamiento de datos tabulares y un manual para el análisis de series temporales, proporcionando un enfoque estructurado para limpiar, fusionar y transformar conjuntos de datos. El repositorio funciona como un curso de ingeniería de características de datos, proporcionando tutoriales sobre la construcción y selección de características de conjuntos de datos para mejorar el rendimiento del modelo de aprendizaje automático. También incluye una guía de operaciones de datos vectorizadas para realizar cálculos matemáticos elemento a elemento y manipulaciones de matrices. El material cubre una amplia gama de capacidades, incluyendo flujos de trabajo de limpieza de datos, tareas de integración de datos y análisis de datos tabulares. Proporciona orientación sobre el procesamiento de información textual, el manejo de datos categóricos y la optimización de la velocidad de ejecución para grandes conjuntos de datos. El proyecto se entrega como una serie de Jupyter Notebooks que contienen ejercicios prácticos y problemas de práctica específicos.

    Demonstrates methods for removing duplicate records to ensure uniqueness across datasets.

    Jupyter Notebookpandas
    Ver en GitHub↗5,164
  • man-group/dtaleAvatar de man-group

    man-group/dtale

    5,170Ver en GitHub↗

    dtale es una cuadrícula interactiva basada en web y visualizador para dataframes de pandas, diseñado como una herramienta de análisis de datos exploratorio. Proporciona una interfaz basada en navegador para analizar estructuras de datos tabulares, permitiendo a los usuarios calcular estadísticas, detectar valores atípicos y calcular correlaciones sin escribir código manual. El proyecto funciona como un visor de datos integrado que puede integrarse en aplicaciones web a través de iframes o rutas personalizadas, con soporte específico para Django, Flask y Streamlit. Permite la exploración de conjuntos de datos a través de una combinación de una cuadrícula de datos interactiva y una biblioteca de visualización de datos capaz de generar histogramas, diagramas de caja y gráficos de dispersión 3D. La plataforma cubre una amplia gama de capacidades de gestión y análisis de datos, incluyendo limpieza de datos tabulares, remodelación y filtrado interactivo. Incluye herramientas de observabilidad para el análisis de datos faltantes, cálculo de correlación y puntuación de poder predictivo. Para la gestión de sesiones, admite el seguimiento de múltiples instancias y la persistencia del estado en procesos de trabajo concurrentes. La interfaz está protegida por autenticación de nombre de usuario y contraseña y admite la ingesta de datos desde archivos delimitados, hojas de cálculo y almacenes de datos ArcticDB.

    Identifies and removes duplicate rows and columns with options to export them for review.

    TypeScriptdata-analysisdata-sciencedata-visualization
    Ver en GitHub↗5,170
  • tidyverse/dplyrAvatar de tidyverse

    tidyverse/dplyr

    5,034Ver en GitHub↗

    dplyr es una librería de manipulación de datos en R que proporciona una gramática para transformar data frames tabulares. Funciona como un procesador de data frames en memoria y una herramienta de álgebra de datos relacionales, utilizando un conjunto consistente de verbos para filtrar, seleccionar y resumir datos. El proyecto incluye un motor de traducción SQL que convierte expresiones de manipulación de datos de alto nivel en consultas optimizadas. Esto permite a los usuarios realizar transformaciones directamente en bases de datos relacionales remotas y almacenamiento en la nube sin necesidad de descargar los datos localmente. La librería cubre una amplia gama de operaciones tabulares, incluyendo la mutación de columnas, el subconjunto de filas y la unión de datos relacionales. También proporciona capacidades para el análisis de datos agrupados, permitiendo particionar conjuntos de datos para realizar agregaciones y resúmenes independientes.

    Implements methods for removing duplicate records and keeping unique value combinations across columns.

    R
    Ver en GitHub↗5,034
  • kuzudb/kuzuAvatar de kuzudb

    kuzudb/kuzu

    3,965Ver en GitHub↗

    Kùzu is an embedded property graph database engine designed for high-performance analytical queries and local data management. It operates as a library within the host application process, utilizing a columnar-based storage architecture and just-in-time query compilation to execute complex graph traversals and pattern matching efficiently. By mapping database files directly into system memory, it ensures data durability and high-speed access while maintaining ACID-compliant transactional integrity. The engine distinguishes itself by integrating vector similarity search and full-text search di

    Removes duplicate records from result sets to ensure uniqueness.

    C++cypherdatabaseembeddable
    Ver en GitHub↗3,965
  • rdatatable/data.tableAvatar de Rdatatable

    Rdatatable/data.table

    3,894Ver en GitHub↗

    This project is a high-performance tabular data processing framework for R, designed to handle massive datasets with memory efficiency and speed. It provides an enhanced data structure that utilizes reference semantics and in-place modification to perform complex transformations without the overhead of unnecessary object copying. The library distinguishes itself through its low-level architectural optimizations, including multi-threaded parallel processing, radix-based sorting, and memory-mapped file parsing. By offloading critical data manipulation and aggregation routines to compiled C code

    Removes duplicate records from result sets or counts unique values across columns.

    R
    Ver en GitHub↗3,894
  1. Home
  2. Data & Databases
  3. Duplicate Row Filtering