1 dépôt
Systems for cleaning, processing, and querying large datasets using distributed storage and SQL interfaces.
Distinct from Hive Metastore Services: Candidates focus on plugins, metadata services, or specific version retrieval, whereas this is a full analysis framework using Hive.
Explore 1 awesome GitHub repository matching data & databases · Distributed SQL Analysis Frameworks. Refine with filters or upvote what's useful.
Ce projet est une collection de frameworks et de pipelines de big data, incluant un framework d'analyse Apache Hive, une plateforme d'analyse de données comportementales, un moteur d'analyse prédictive et des pipelines de données en temps réel. Il fournit l'infrastructure pour construire des workflows ETL (Extract, Transform, Load) afin de traiter de grands jeux de données pour le stockage distribué et l'analyse basée sur SQL. Le système prend en charge diverses implémentations analytiques, telles qu'un moteur prédictif utilisant la régression linéaire pour la prévision de valeurs et une architecture temps réel qui fait transiter les données via des courtiers de messages pour un reporting immédiat. Il inclut des capacités spécialisées pour l'analyse du comportement des utilisateurs, la mesure de performance e-commerce et l'analyse de données de transport urbain. La base de code couvre un large spectre d'ingénierie et d'analyse de données, incluant le nettoyage et la transformation de données, l'ingestion distribuée, le traitement de flux par fenêtrage et la visualisation des résultats via des outils de business intelligence. Il permet en outre le calcul de métriques métier spécifiques comme les taux de conversion, la performance de monétisation et les niveaux d'engagement des utilisateurs.
Provides a comprehensive system for cleaning and querying large datasets using Hive for distributed storage.