8 dépôts
Applying deterministic constraints to filter out noise and invalid entries from datasets.
Distinct from Rule-Based Filters: Existing candidates focus on feed content, email, or linting tags, not general raw dataset noise filtering.
Explore 8 awesome GitHub repositories matching data & databases · Rule-Based Data Filtering. Refine with filters or upvote what's useful.
CleanMyWechat est un utilitaire de disque pour application de bureau conçu pour récupérer de l'espace de stockage en nettoyant les images, vidéos et fichiers mis en cache par le client de bureau WeChat sur Windows et macOS. Il fonctionne comme un outil de maintenance de cache automatisé qui identifie et supprime les assets média inutiles des caches des logiciels de communication. L'utilitaire optimise le stockage média en filtrant les assets en fonction du type de fichier et des seuils d'âge tout en préservant l'historique textuel des conversations. Pour éviter la perte de données permanente, il utilise un système de récupération qui déplace les fichiers identifiés vers la corbeille système plutôt que de les effacer définitivement. Le système inclut des capacités pour le nettoyage de disque automatisé via un mécanisme de planification qui déclenche des processus de maintenance à des intervalles prédéfinis. Il emploie un moteur de filtrage basé sur des règles et une découverte basée sur les chemins pour localiser et gérer les structures de répertoires d'applications à travers différents systèmes d'exploitation.
Uses a rule-based engine to filter files by age and extension to determine deletion eligibility.
Il s'agit d'une bibliothèque d'expressions régulières conçue pour la validation et l'identification des numéros de téléphone mobile de Chine continentale. Elle fournit les règles structurelles et les contraintes de chiffres nécessaires pour vérifier que les numéros de téléphone suivent le format régional correct. La bibliothèque inclut des modèles spécifiques pour déterminer le fournisseur de télécommunications en fonction des préfixes régionaux. Elle propose également des filtres pour distinguer les numéros vocaux standards des plans IoT ou de données uniquement. Le projet couvre de vastes capacités de validation de données, incluant la vérification du format d'entrée et l'identification de l'opérateur.
Applies deterministic structural constraints to filter and separate voice, IoT, and data-only phone plans.
Zim est un framework de configuration Zsh et un gestionnaire d'environnement conçu pour optimiser les performances et la productivité du shell. Il sert de gestionnaire de plugins, de personnalisateur d'invite et d'optimiseur de performances qui regroupe des thèmes et des modules dans un système cohérent. Le framework se distingue par l'utilisation de la compilation en bytecode pour accélérer les temps de démarrage du shell et améliorer la vitesse d'exécution. Il emploie un système modulaire pour installer, mettre à jour et synchroniser les modules et scripts shell externes à partir de sources locales ou distantes. Le projet couvre un large éventail de capacités, notamment l'automatisation du flux de travail des développeurs via des intégrations Git, des outils de productivité en ligne de commande tels que des alias abrégés et des systèmes de complétion par tabulation, et la gestion des paquets système pour des outils comme Homebrew et Pacman. Il fournit également des outils d'ingénierie d'invite pour injecter des métadonnées en temps réel et appliquer des thèmes visuels à l'interface. L'environnement est géré via un fichier de configuration central qui définit les cycles de vie des plugins et la logique d'initialisation conditionnelle basée sur le système d'exploitation détecté.
Lists files based on specific attributes like modification date or type using shell glob qualifiers.
OUCML is a machine learning research curator and automated data curation tool. It provides a collection of structured research papers, code samples, and study guides designed for mastering complex data science concepts. The project includes a generative adversarial network training framework that uses generator and discriminator models to iteratively refine synthetic data. It also functions as a tensor-based computation library for performing high-dimensional matrix operations to accelerate neural network training. The system covers machine learning education and research curation by aggrega
Applies rule-based filtering and deterministic constraints to aggregate technical research materials.
fselect est un utilitaire en ligne de commande et un moteur de requête de métadonnées de fichiers qui utilise une syntaxe de type SQL pour filtrer et trouver des fichiers en fonction de leurs attributs. Il fonctionne comme un outil d'analyse de système de fichiers capable de sélectionner des fichiers et des répertoires en utilisant une logique relationnelle, des sous-requêtes et un filtrage de données structurées. L'outil se distingue en intégrant le statut de suivi Git et les métadonnées de branche dans le processus de recherche tout en respectant les fichiers d'exclusion (ignore files) du projet. Il inclut également une capacité de recherche de métadonnées multimédias spécialisée qui filtre les fichiers audio et image par des propriétés techniques telles que la résolution, le débit binaire et les balises EXIF. Le projet couvre un large éventail de capacités, incluant la criminalistique de système de fichiers via l'inspection de hachage SHA-256 et l'audit des permissions POSIX. Il supporte la correspondance de motifs complexe avec des expressions régulières et des globs, la recherche de contenu au sein des corps de fichiers et des archives ZIP, et le calcul de statistiques agrégées comme les sommes et moyennes à travers les jeux de résultats. Les utilisateurs peuvent exécuter des requêtes via une boucle interactive read-eval-print ou exporter des résultats structurés dans des formats tels que CSV et JSON pour des rapports externes.
Filters files using attributes such as size, MIME type, file hashes, and POSIX ACLs.
RedisShake is a migration and synchronization tool for Redis and Valkey instances. It facilitates the transfer of data between standalone, sentinel, and cluster deployments, acting as a cross-version database migrator and a utility for restoring data from backup files. The project provides a programmable data transformation pipeline that allows for filtering keys, remapping database indices, and executing Lua scripts to modify commands and keys during transit. It supports zero-downtime synchronization by replicating snapshots and streaming incremental changes in real time. The tool covers a
Drops specific keys, database indices, or data structure types based on custom business logic to control migrated content.
waka-readme-stats est un outil de mise à jour automatique de profil README et un tableau de bord de statistiques pour développeurs. Il s'intègre avec l'API WakaTime et des endpoints auto-hébergés compatibles pour synchroniser les données de suivi du temps, qu'il transforme ensuite en un affichage formaté des heures de codage, des langages et des systèmes d'exploitation. L'outil fonctionne comme une GitHub Action qui récupère les métriques et met à jour automatiquement un fichier README de profil en remplaçant les commentaires marqueurs par du contenu dynamique via des commits git. Il permet l'intégration d'endpoints API personnalisés pour prendre en charge des services auto-hébergés. Le système fournit des capacités pour le rendu de métriques et la collecte de données, incluant la possibilité de filtrer des dépôts spécifiques et de contrôler la visibilité de points de données individuels. Le style visuel est géré via des templates configurables pour les barres de progression et les badges, tandis que la localisation de la sortie prend en charge plusieurs langues via des codes de locale. Les options de configuration incluent des paramètres d'identité de commit pour les mises à jour automatisées et un formatage de timestamp personnalisable pour le bloc de statistiques.
Applies deterministic constraints to exclude specific repositories from activity metric calculations.
DataFlow is an agent-based workflow orchestrator and data pipeline designed to synthesize, clean, and augment large-scale datasets for training large language models. It functions as a synthetic data generator and text curation tool, utilizing an intelligent assistant to assemble modular processing operators into functional pipelines based on user requirements. The project distinguishes itself through a low-code approach, providing a web-based visual interface for designing and monitoring multi-stage execution flows. It features an operator-based registry system that allows for the integratio
Applies deterministic constraints on length, language, and symbols to remove noise from raw datasets.