1 dépôt
Mechanisms for importing cleaned data files into distributed SQL engines using predefined schemas.
Distinct from Schema Column Mapping: Focuses on the bulk loading process into distributed SQL engines rather than just the logical mapping of columns.
Explore 1 awesome GitHub repository matching data & databases · Distributed SQL Loading. Refine with filters or upvote what's useful.
Ce projet est une collection de frameworks et de pipelines de big data, incluant un framework d'analyse Apache Hive, une plateforme d'analyse de données comportementales, un moteur d'analyse prédictive et des pipelines de données en temps réel. Il fournit l'infrastructure pour construire des workflows ETL (Extract, Transform, Load) afin de traiter de grands jeux de données pour le stockage distribué et l'analyse basée sur SQL. Le système prend en charge diverses implémentations analytiques, telles qu'un moteur prédictif utilisant la régression linéaire pour la prévision de valeurs et une architecture temps réel qui fait transiter les données via des courtiers de messages pour un reporting immédiat. Il inclut des capacités spécialisées pour l'analyse du comportement des utilisateurs, la mesure de performance e-commerce et l'analyse de données de transport urbain. La base de code couvre un large spectre d'ingénierie et d'analyse de données, incluant le nettoyage et la transformation de données, l'ingestion distribuée, le traitement de flux par fenêtrage et la visualisation des résultats via des outils de business intelligence. Il permet en outre le calcul de métriques métier spécifiques comme les taux de conversion, la performance de monétisation et les niveaux d'engagement des utilisateurs.
Imports cleaned CSV files into a distributed SQL engine by mapping source columns to predefined table schemas.