5 repository-uri
Capabilities for collecting real-time events from multiple disparate sources like brokers, object storage, and webhooks.
Distinct from Multi-Source Data Aggregation: Distinct from Multi-Source Data Aggregation: focuses on the ingestion of raw event streams rather than analytical aggregation of SQL/API stores.
Explore 5 awesome GitHub repositories matching data & databases · Multi-Source Ingestion. Refine with filters or upvote what's useful.
RisingWave is a cloud-native streaming database and real-time analytics engine that uses standard SQL to process continuous data streams. It functions as a streaming data lakehouse, combining the capabilities of a streaming SQL database with a platform that integrates streaming ingestion with open table formats. The system is distinguished by its use of the PostgreSQL wire protocol, allowing it to integrate with existing SQL tools and drivers. It employs a decoupled compute and storage architecture, persisting streaming state and materialized views in cloud object storage to enable independen
Provides the ability to ingest real-time event streams from various sources including message brokers, object storage, and webhooks.
Falco is an eBPF runtime security monitor and cloud native detection engine that identifies abnormal behavior and security threats across hosts and containers. It functions as a Linux kernel event auditor, capturing system calls and kernel events in real-time to detect malicious activity. The system distinguishes itself through a rule-based threat detection model that evaluates system activity against a library of community-maintained rules and custom security definitions. It enriches raw kernel events with container and Kubernetes metadata to provide observability into isolated environments
Uses a plugin architecture to ingest events from diverse system sources beyond standard system calls.
Snowplow is a behavioral event data pipeline and customer data infrastructure designed to capture user interactions and transform them into structured events for real-time analysis and long-term storage. It functions as a customer data platform that gathers user signals and enriches them with metadata to create a unified view of customer behavior. The system operates as an event schema validation engine to enforce strict data contracts on incoming streams, preventing data corruption. It further serves as a real-time event router and an event-driven automation platform, triggering proactive bu
Gathers interaction data from web, mobile, and server sources through specialized software kits and webhooks.
River este un framework Python pentru online machine learning, conceput pentru a antrena și evalua modele pe date de tip streaming. Permite învățarea incrementală prin actualizarea parametrilor modelului la fiecare observație, eliminând nevoia de a stoca seturi de date complete de antrenament în memorie. Biblioteca se distinge printr-un sistem dedicat de detectare a concept drift-ului, care monitorizează schimbările în distribuțiile datelor pentru a declanșa adaptarea modelului. De asemenea, oferă un framework de validare progresivă care simulează deployment-ul în timp real prin testarea modelelor pe eșantioane înainte de a le utiliza pentru antrenament. Sistemul acoperă o gamă largă de capabilități de streaming, inclusiv feature engineering în timp real, prognoza seriilor temporale și detectarea anomaliilor online. Suportă învățarea nesupervizată prin clustering incremental și arbori de decizie, precum și agregarea de tip ensemble și politici de tip bandit pentru selecția modelelor. Proiectul include utilitare pentru ingestia de date de streaming din surse precum fișiere CSV și API-uri, precum și instrumente pentru calcularea statisticilor în mișcare și a schițelor de date eficiente din punct de vedere al memoriei.
Iterates over various data formats including CSV, SQL, and live API streams to feed models.
Riona-AI-Agent este un agent de automatizare LLM și un framework de automatizare a browserului conceput pentru a executa fluxuri de lucru complexe, a se antrena pe date personalizate și a genera conținut AI. Acesta funcționează ca un instrument de automatizare pentru social media, destinat programării conținutului, gestionării mai multor profiluri și automatizării acțiunilor de engagement pe platformele sociale. Sistemul include un tablou de bord centralizat pentru monitorizarea stării live, a rezumatelor de runtime și a logurilor de activitate ale agenților AI. Utilizează modele de machine learning pentru a identifica și ocoli provocările de securitate vizuală în timpul sesiunilor de navigare automatizate. Capabilitățile agentului acoperă automatizarea social media, inclusiv automatizarea interacțiunilor repetitive și programarea postărilor. Suportă antrenarea agenților AI prin ingestia de link-uri web, audio și documente pentru a personaliza baza de cunoștințe și comportamentul agentului. Framework-ul este construit folosind Node.js și TypeScript.
Ingests web links, audio, and documents to build a context-aware knowledge base for agent behavior.