7 repository-uri
Methodologies for capturing and defining data requirements in a project lifecycle.
Distinguishing note: Focuses on the initial stage of the data lifecycle.
Explore 7 awesome GitHub repositories matching data & databases · Data Acquisition Workflows. Refine with filters or upvote what's useful.
This project is a comprehensive educational curriculum designed to teach the fundamental concepts, workflows, and tools of data science. It provides a structured learning path that covers the end-to-end data science lifecycle, including data acquisition, maintenance, processing, and pattern discovery, while grounding theoretical knowledge in practical, real-world applications. The curriculum distinguishes itself through a data-driven pedagogical design that utilizes interactive, notebook-based lessons. By combining narrative text with live code blocks, the platform allows learners to experime
Covers the initial lifecycle stage of acquiring data and defining project objectives.
This project is an open-source, privacy-focused web analytics platform designed for high-throughput data ingestion and multi-tenant data management. It provides a cookie-less tracking engine that captures visitor interactions using ephemeral request metadata, ensuring comprehensive traffic visibility while maintaining strict privacy standards. The architecture utilizes an event-driven ingestion pipeline and aggregated metric storage to decouple data collection from processing, enabling efficient long-term retrieval and responsive dashboard performance. What distinguishes this platform is its
Identifies and ranks traffic sources and marketing campaigns by tracking referral origins to measure acquisition effectiveness.
This project is a comprehensive framework for engineering financial data pipelines, designed to automate the collection, cleaning, and synchronization of large-scale market datasets. It functions as a quantitative trading data engine, providing the infrastructure necessary to manage historical and real-time asset pricing information for research and machine learning workflows. The system distinguishes itself through a configuration-driven approach to orchestration, allowing users to manage complex data acquisition tasks across multiple financial providers. It features resilient middleware tha
Reduces network traffic and API usage by performing incremental updates and validating data quality.
WARP-Clash-API este un serviciu backend conceput pentru a gestiona endpoint-urile Cloudflare WARP și a genera configurații de rutare și link-uri de abonament compatibile cu ecosistemul de proxy Clash. Funcționează ca un server de abonament proxy și un manager de gateway VPN pentru a securiza și redirecționa traficul de rețea. Proiectul utilizează un optimizator de endpoint-uri de rețea pentru a filtra adresele IP în funcție de latență și pierderea de pachete pentru conexiuni stabile. Implementează un ciclu automat de reîmprospătare a credențialelor pentru cheile de licență și folosește validarea cu cheie secretă pentru a controla accesul la setările de abonament. Sistemul include capabilități pentru gestionarea pool-urilor de proxy, inclusiv rotația IP-urilor și achiziția programată de date pentru a preveni blocarea la nivel de server. De asemenea, dispune de generare de configurații bazată pe template-uri pentru a distribui setările de rețea către clienți terți.
Executes regular polling of external resources using a managed proxy layer to ensure consistent data collection.
Acest proiect este o colecție de framework-uri și pipeline-uri de big data, incluzând un framework de analiză Apache Hive, o platformă de analiză a datelor comportamentale, un motor de analiză predictivă și pipeline-uri de date în timp real. Oferă infrastructura necesară pentru construirea fluxurilor de lucru ETL (Extract, Transform, Load) pentru procesarea seturilor mari de date în vederea stocării distribuite și a analizei bazate pe SQL. Sistemul suportă implementări analitice diverse, cum ar fi un motor predictiv care utilizează regresia liniară pentru prognoza valorilor și o arhitectură în timp real care transmite datele prin message broker-e pentru raportare imediată. Include capabilități specializate pentru analiza comportamentului utilizatorilor, măsurarea performanței în e-commerce și analiza datelor de tranzit urban. Codul sursă acoperă o arie largă de inginerie și analiză a datelor, inclusiv curățarea și transformarea datelor, ingestia distribuită, procesarea fluxurilor bazată pe ferestre (window-based) și vizualizarea rezultatelor prin instrumente de business intelligence. De asemenea, permite calcularea unor metrici de business specifice, cum ar fi ratele de conversie, performanța monetizării și nivelurile de implicare a utilizatorilor.
Tracks total user growth and registration timing to identify growth peaks and acquisition trends.
Jitsu is an open-source customer data platform designed to orchestrate event data pipelines. It captures, transforms, and routes behavioral data from web and server sources into data warehouses and analytics tools, providing a unified infrastructure for managing event streams. The platform distinguishes itself through its focus on self-hosted, containerized operations that grant users full control over their data security and privacy. It features a robust identity resolution engine that stitches disparate user identifiers into persistent profiles across sessions and devices, alongside program
Routes tracking requests through a custom domain endpoint to bypass browser-level ad blockers and maintain data collection reliability.
wechatpy is a Python API SDK designed for interacting with official accounts, mini programs, and corporate communication APIs. It provides a unified interface for managing users, media, and messages, and includes a bot framework for processing incoming events and generating structured responses. The project implements a component-based client factory to perform actions across different account types and orchestrates OAuth2 flows for identity verification. It features an event-driven bot architecture and a pluggable token storage system to persist authentication sessions across environments.
Collects cumulative user statistics over time to monitor audience growth and acquisition trends.