28 Repos
Interfaces for real-time access to incoming data streams.
Distinguishing note: Focuses on subscription-based access, distinct from batch query interfaces.
Explore 28 awesome GitHub repositories matching data & databases · Data Stream Subscriptions. Refine with filters or upvote what's useful.
graphql-engine is an automated GraphQL API engine that transforms database tables and relationships into a queryable GraphQL schema. It functions as a federation gateway and mapper, instantly generating APIs with built-in filtering, pagination, and mutations from existing databases and remote schemas. The project distinguishes itself through a fine-grained access control layer that enforces row-level and field-level permissions. It further provides a real-time data subscription server that converts standard queries into live streams and a system for triggering event-driven webhooks and notifi
Streams real-time updates to clients by tracking data changes and batching modifications using a cursor mechanism.
TDengine is a distributed time-series database designed for the high-speed ingestion, compression, and retrieval of timestamped metrics and sensor data. It functions as a SQL-compatible analytics engine, allowing users to perform complex operations on massive volumes of time-ordered information using standard relational syntax. The platform is built to serve as a backend foundation for industrial IoT environments, managing real-time data streams and device metadata through a cluster-based architecture. The system distinguishes itself through a distributed sharding architecture that uses consi
Provides built-in interfaces to subscribe to real-time data streams for downstream processing.
This project is a command-line utility and development framework designed to modify, extend, and customize the Spotify desktop client. It functions as a binary patching engine that injects custom scripts, stylesheets, and interface components directly into the host application, enabling users to alter visual themes and add new functionality. The tool distinguishes itself by providing a comprehensive development environment for building modular extensions and custom applications. It includes a hot-reloading pipeline for rapid iteration, a declarative library for constructing interactive UI pan
Listens for real-time updates from remote services to trigger callback functions within the client.
NATS Server is a high-performance, lightweight messaging system designed for cloud-native applications, edge computing, and distributed microservices. It functions as a distributed publish-subscribe broker that routes messages using hierarchical, dot-separated subject strings, enabling decoupled communication between services without requiring centralized broker lookups. The system supports core messaging patterns including asynchronous publish-subscribe, request-reply, and load-balanced queue processing. The platform distinguishes itself through a decentralized architecture that eliminates t
Routes messages using hierarchical subject matching to enable decoupled publish-subscribe communication.
gost is a multi-protocol proxy tunnel and secure tunneling server designed to route network traffic through encrypted connections. It functions as a traffic obfuscation gateway and a transparent proxy server capable of intercepting TCP and UDP traffic at the IP level. The project also includes a virtual network interface manager for creating TUN and TAP devices to intercept operating system packets. The system distinguishes itself through a chain-based request routing model, allowing traffic to pass through an ordered sequence of proxy nodes. It provides extensive transport-layer encapsulatio
Excludes dead or failing nodes from the selection pool based on failure counts.
Subconverter is a network utility designed to translate, merge, and filter proxy subscription configurations. It functions as a service that converts proxy links between various client-specific formats, ensuring compatibility across different applications and platforms. By providing a unified interface for managing diverse connection sources, the tool enables consistent network policy application and streamlined configuration management. The project distinguishes itself through an HTTP-based transformation interface that processes subscription data dynamically. It utilizes an in-memory pipeli
Refines proxy node lists by applying regex-based inclusion or exclusion rules to ensure only desired connections remain.
Apache Pulsar is a cloud-native distributed pub-sub messaging system designed for high-performance data ingestion. It functions as a geo-replicated data streamer and a multi-tenant event streaming platform, providing a serverless stream processing engine and a tiered storage messaging broker. The system distinguishes itself by separating serving layers from storage layers to allow independent scaling of compute and data retention. It features native geo-replication to synchronize messages across different geographical regions and employs a multi-layered tenant isolation model using authentica
Maintains individual consumer offsets using cursors to enable reliable message replay and independent stream tracking.
Cayley is a graph database engine designed for storing and querying interconnected data using a quad-based data model. It functions as an RDF quad store, managing information through subjects, predicates, objects, and labels. The system features a modular graph store architecture with pluggable backends, allowing it to swap between in-memory storage and various external persistent databases. It includes a GraphQL-inspired API and a dedicated data visualizer for the interactive exploration of nodes and edges. Query capabilities cover bidirectional path traversal and multi-syntax execution usi
Restricts the set of nodes based on predicate-object matches, range constraints, string matching, or identities.
Sub-Store is a proxy subscription management server that aggregates multiple subscription links into a single unified stream for distribution to various clients. It functions as a transformation pipeline that filters, modifies, and reformats proxy node metadata. The system acts as a cross-platform format converter to ensure compatibility across diverse client applications. It includes an encryption decryption gateway that uses private keys to handle age-standard encrypted subscription content and a cache-layered aggregator to reduce external requests. The server provides capabilities for dyn
Removes specific proxies from a list using regular expressions, regional markers, or custom scripts.
RisingWave is a cloud-native streaming database and real-time analytics engine that uses standard SQL to process continuous data streams. It functions as a streaming data lakehouse, combining the capabilities of a streaming SQL database with a platform that integrates streaming ingestion with open table formats. The system is distinguished by its use of the PostgreSQL wire protocol, allowing it to integrate with existing SQL tools and drivers. It employs a decoupled compute and storage architecture, persisting streaming state and materialized views in cloud object storage to enable independen
Delivers real-time updates from materialized views using a cursor-based subscription mechanism.
This is a Golang client library for interacting with a cloud native distributed messaging system. It provides the necessary tools for Go applications to exchange messages using publish-subscribe and request-reply patterns, as well as specialized clients for managing persistent streams and distributed storage. The library includes a JetStream client for durable message streaming and replay, a Key-Value store client for managing distributed state with versioning and watchers, and an Object Store client for the storage and retrieval of large binary files via chunked delivery. The implementation
Supports wildcard patterns in subject subscriptions to filter and match multiple data streams.
Clash-freenode is a tool that automatically fetches, aggregates, and generates subscription links for free proxy nodes from public sources, supporting Clash, V2Ray, and SSR formats. It operates by scraping Telegram channels and scanning public repositories to harvest proxy links, then converting them into static subscription URLs that clients can consume without manual updates. The project distinguishes itself by combining multiple aggregation methods—daily feed parsing, repository-based link harvesting, and Telegram channel scraping—into a single pipeline that produces protocol-compatible ou
Filters proxy nodes based on connectivity and latency checks to ensure only functional nodes are included.
re-frame ist ein funktionales Framework für den Bau von Single-Page-Anwendungen in ClojureScript. Es bietet eine zentralisierte, unveränderliche Datenbank, die als Single Source of Truth für den gesamten Anwendungszustand dient und einen strikten, unidirektionalen Datenfluss erzwingt, bei dem Events Zustandsübergänge und nachfolgende View-Updates auslösen. Das Framework zeichnet sich durch einen reaktiven Signal-Graphen und eine Interceptor-basierte Middleware-Pipeline aus. Indem Anwendungslogik als Sequenz datengetriebener Events und deklarativer Side-Effects behandelt wird, entkoppelt es die Geschäftslogik von der View-Schicht. Diese Architektur ermöglicht es Entwicklern, komplexe Zustandsübergänge und externe Operationen durch reine Funktionen zu verwalten, wobei sichergestellt wird, dass Side-Effects von einem separaten Interpreter statt durch imperative Aufrufe ausgeführt werden. Das System umfasst eine umfassende Suite an Funktionen für das Management der Anwendungsarchitektur, einschließlich reaktiver Datenableitung, abonnementbasierter View-Reconciliation und eventgesteuertem Zustandsmanagement. Es unterstützt fortgeschrittene Entwicklungs-Workflows wie Event-Tracing, State-Checkpointing und die Möglichkeit, Side-Effects für isolierte Tests zu stubben. Das Projekt ist für die Integration mit React konzipiert und nutzt Virtual-DOM-Reconciliation, um Benutzeroberflächen effizient zu aktualisieren. Es bietet ein robustes Set an Utilities für den Umgang mit Cross-Cutting Concerns, die Verwaltung komplexer Datenfluss-Graphen und die Koordination asynchroner Operationen innerhalb einer vorhersagbaren, sequenziellen Event-Pipeline.
Displays active subscription subjects for connected clients to facilitate debugging.
dlt ist ein Python-Tool zur Datenaufnahme und ein ETL-Pipeline-Framework, das darauf ausgelegt ist, Daten aus verschiedenen Quellen abzurufen und in strukturierten Zielen zu speichern. Es fungiert als Schema-Inferenz-Engine, die automatisch Datentypen erkennt und verschachtelte JSON-Strukturen in relationale Tabellen flacht, wobei Daten von Quellen in Lakehouses, Warehouses oder Vektordatenbanken verschoben werden. Das Projekt zeichnet sich durch KI-gestützte Pipeline-Generierung aus, die Large Language Models nutzt, um Extraktionscode und Konnektoren für REST-APIs zu erstellen. Es unterstützt zudem multimodale Vektorspeicherung und die spezialisierte Befüllung von Vektordatenbanken zur Unterstützung von KI- und Machine-Learning-Anwendungen. Das Framework deckt ein breites Spektrum an Funktionen ab, einschließlich automatisierter Schema-Evolution, inkrementellem Datenladen mittels Statusverfolgung und Datenqualitätsvalidierung durch die Durchsetzung von Datenverträgen. Es bietet Tools für relationale Datennormalisierung, Pre- und Post-Load-Transformationen sowie eine Vielzahl von Ziel-Adaptern für SQL-Datenbanken und Cloud-Objektspeicher. Die Observability wird durch Pipeline-Ausführungs-Dashboards, Spalten-Lineage-Tracking und Schema-Versionsverifizierung mittels inhaltsbasierter Hashes gehandhabt.
Uses cursors based on timestamps or IDs to load only data produced since the last execution.
Reactor Core ist ein Toolkit für reaktive Programmierung und eine nicht-blockierende Grundlage für die Komposition asynchroner Datenpipelines auf der JVM. Es dient als Framework für asynchrone Stream-Verarbeitung und als Backpressure-Managementsystem, das es Entwicklern ermöglicht, Ereignissequenzen zu transformieren, zu filtern und zu kombinieren, während der Datenfluss zwischen Produzenten und Konsumenten reguliert wird, um Ressourcenerschöpfung zu vermeiden. Die Bibliothek differenziert sich durch ein ausgeklügeltes Concurrency-Scheduling-System und nachfragebasierte Flusskontrolle. Sie entkoppelt die Signalverarbeitung von spezifischen Threads unter Verwendung einer Scheduler-Registry und bietet Mechanismen für die kontextbewusste Propagierung unveränderlicher Metadaten über asynchrone Grenzen hinweg. Sie enthält zudem spezialisierte Tools für die Trace-Erfassung zur Assembly-Zeit und Virtual-Time-Scheduling, um das Testen zeitbasierter Operatoren zu erleichtern. Das Projekt deckt ein breites Spektrum an Funktionen ab, einschließlich funktionaler Datenverarbeitung für Sequenzaggregation und Windowing, einer Vielzahl von Fehlerbehebungsstrategien wie exponentiellem Backoff-Retry sowie Dienstprogrammen zur Überbrückung von Legacy-Callback- oder synchronen APIs in reaktive Streams. Zudem bietet es Instrumentierung für Pipeline-Monitoring und eine Suite von Test-Tools zur Verifizierung von Signalsequenzen.
Supports the creation of cold publishers that restart the data sequence for each unique subscriber.
Potpie is an LLM codebase analysis platform and multi-agent orchestration framework designed to act as an AI software engineer. It parses repositories into a structured code knowledge graph, enabling AI agents to perform multi-hop reasoning, dependency tracing, and grounded technical analysis across large codebases. The system distinguishes itself through a spec-driven development framework where agents generate detailed technical specifications and architecture plans before implementing multi-file code changes. It utilizes a durable execution engine to coordinate specialized AI personas for
Finds nodes in a knowledge graph by matching natural language queries against node descriptions.
RxPY ist eine Bibliothek für funktionale reaktive Programmierung und eine ReactiveX-Observable-Bibliothek für Python. Sie dient als asynchroner Stream-Prozessor und ereignisgesteuertes Koordinations-Framework zum Aufbau von Datenpipelines, die auf Zustandsänderungen oder Ereignisströme im Zeitverlauf reagieren. Die Bibliothek bietet ein Toolkit zur Komposition asynchroner und ereignisbasierter Programme mittels beobachtbarer Sequenzen und Operatoren. Sie zeichnet sich durch konfigurierbare Scheduler aus, die Nebenläufigkeit, Timing und Abonnement-Lebenszyklen verwalten. Das Projekt deckt ein breites Spektrum an Stream-Processing-Funktionen ab, einschließlich Datenaggregation, Filterung und Kombination. Es bietet Mechanismen für Event-Broadcasting, Sequenz-Buffering und Fehlerbehandlung sowie Werkzeuge zur Koordination beobachtbarer Streams mit asynchronen Event-Loops. Tests und Qualitätssicherung werden durch virtuelle Zeitsimulation, Marble-Diagramm-Modellierung und Emissionsverifizierung unterstützt.
Provides interfaces for subscribers to attach handlers and react to real-time data stream emissions.
clashN is a cross-platform proxy manager and graphical user interface client for the Clash proxy core. It serves as a visual wrapper that enables the configuration of network tunnels and the routing of internet traffic to bypass network restrictions on desktop operating systems. The application functions by decoupling the management interface from the network engine, using a local API to dispatch configuration updates and control the proxy core. It includes a subscription converter that translates external provider profiles into standardized configuration schemas compatible with the underlyin
Deduplicates and filters proxy nodes across multiple subscriptions using regex and custom logic.
FastStream is an asyncio message broker framework for building event-driven applications in Python. It provides a unified interface and a multi-broker messaging abstraction layer that translates generic producer and consumer calls into broker-specific APIs. The framework features a built-in dependency injection container and uses decorators to route messages to asynchronous handler functions. It includes a documentation generator that extracts channel definitions and message formats from code to produce standardized AsyncAPI specifications. The project supports integration with Kafka, Rabbit
Subscribes to subjects using wildcard patterns to create flexible topic hierarchies.
Sqlbrite ist ein reaktiver SQLite-Datenbankmanager und ein leichtgewichtiger Wrapper für Android. Er fungiert als reaktive SQL-Bibliothek, die standardmäßige SQLite-Abfragen in beobachtbare Streams umwandelt, sodass die Anwendung automatisch neue Ergebnisse ausgibt, wenn sich zugrunde liegende Datenbanktabellen ändern. Das Projekt bietet einen Mechanismus zur Verfolgung von Änderungen an spezifischen Datenbanktabellen, wodurch Abfrage-Aktualisierungen ohne manuelles Polling ausgelöst werden. Es enthält zudem einen atomaren Transaktionsmanager, um mehrere SQL-Modifikationen in Einheiten zu gruppieren, was die Datenintegrität sicherstellt und redundante Benachrichtigungen verhindert. Die Bibliothek verwaltet die lokale Datenpersistenz unter Android, indem sie Schema-Operationen und das Datenbank-Lifecycle-Management an den Standard-SQLite-Helper delegiert. Die Kernfunktionen umfassen die Echtzeit-Datenbeobachtung und die Verwaltung von Datenbanktransaktionen.
Transforms traditional SQLite result cursors into real-time data streams that automatically update the UI.