13 Repos
Managing the lifecycle, timing, and concurrency of asynchronous workers within an application.
Distinct from Background Processing Workers: None of the candidates capture the general orchestration of Go background workers' lifecycles and timing.
Explore 13 awesome GitHub repositories matching software engineering & architecture · Background Worker Orchestration. Refine with filters or upvote what's useful.
gocron is a task scheduling library for Go designed to automate recurring tasks using crontab expressions, fixed durations, and specific calendar dates. It functions as a concurrent job manager and execution monitor that tracks task lifecycles and performance. The project provides distributed task scheduling through leader election and distributed locking to prevent duplicate job execution across multiple nodes. It further distinguishes itself with a concurrency management system that implements singleton constraints and global execution quotas to protect system resources. The scheduler cove
Manages the lifecycle and timing of asynchronous jobs to ensure consistent execution periods and graceful shutdowns.
MISP is an open-source threat intelligence sharing platform designed for collecting, storing, and distributing structured threat indicators and intelligence. At its core, it provides a distributed synchronization protocol for transferring events between instances, an attribute-based correlation engine that links matching indicators across events, and a REST API with an OpenAPI specification for programmatic access to threat data. The platform uses formal data formats for JSON, taxonomy, galaxy, and object templates to enable compatibility across tools and communities. The platform distinguish
Allows restarting background workers from the web interface or command line to apply configuration changes or recover from failures.
This project provides architectural standards and patterns for organizing Django applications. It defines a project architecture guide focused on decoupling business logic from views and models through a service-layer architecture. The guide establishes specific design patterns, including a service layer for standalone business logic functions and a data selector pattern for isolating complex database queries. It defines a standard for single-purpose views that delegate logic to services and utilize dedicated serializers for data input and output. The framework covers several broader capabil
Treats asynchronous background tasks as thin triggers that delegate all actual execution to the core service layer.
Hypernova ist eine verteilte Rendering-Engine und ein Server-Side-Rendering-Dienst, der JavaScript-Komponenten auf einem Remote-Server in HTML umwandelt. Sie fungiert als Framework für die Hydratisierung von Webseiten, das es ermöglicht, interaktives Verhalten an statisches, serverseitig generiertes Markup anzuhängen, indem der Anwendungszustand im Browser deserialisiert wird. Das System nutzt eine isolierte JavaScript-Laufzeitumgebung, die Komponenten innerhalb von sandboxed virtuellen Maschinen ausführt, um das Durchsickern globaler Zustände und Interferenzen zwischen gleichzeitigen Anfragen zu verhindern. Es verwendet eine verteilte Architektur, um Rendering-Aufgaben über mehrere Worker-Prozesse und CPU-Kerne hinweg auszuführen. Die Engine verwaltet den Anfrage- und Verkehrsfluss durch eine Batch-Request-Pipeline und ein erweiterbares Middleware-System für die Lifecycle-Interzeption. Sie umfasst Funktionen für die Serialisierung des Anwendungszustands, clientseitige Rendering-Fallbacks zur Sicherstellung der Seitenverfügbarkeit sowie Unterstützung für mehrsprachige Clients zur Übermittlung von Anfragen aus verschiedenen Backend-Umgebungen.
Manages the operational state of background worker processes, including processing power configuration and orderly shutdowns.
Buildbot ist ein auf Python basierendes Continuous-Integration-Framework und ein verteilter Build-Orchestrator. Es fungiert als Build-Automatisierungs-Engine, die das Abrufen von Quellcode, die Ausführung von Build-Schritten und die Berichterstattung über Ergebnisse über einen zentralen Controller und ein Netzwerk aus Remote-Worker-Agents koordiniert. Das System zeichnet sich durch eine plugin-basierte Erweiterbarkeitsarchitektur und ein Master-Worker-Verteilungsmodell aus. Es ermöglicht dynamische Build-Anpassungen zur Laufzeit und unterstützt ein austauschbares Datenbank-Backend zur Persistierung des Systemzustands und historischer Build-Daten. Das Projekt deckt ein breites Spektrum an Funktionen ab, darunter automatisierte Build-Planung und Pipeline-Orchestrierung, Versionskontrollintegration via Polling und Webhooks sowie die Bereitstellung von Workern auf physischen Servern, Docker-Containern und Kubernetes-Clustern. Zudem bietet es umfassende Überwachung und Observability durch Build-Log-Analyse und Performance-Tracking sowie sicheres Secret-Management und Multi-Provider-Authentifizierung. Die administrative Steuerung erfolgt über eine dedizierte Weboberfläche und Befehlszeilenwerkzeuge zur Konfigurationsvalidierung und Prozessverwaltung.
Manages the lifecycle of worker agent daemons, allowing for administrative restarts and configuration updates.
picacg-qt ist ein plattformübergreifender Desktop-Client zum Durchsuchen und Lesen digitaler Manga und Comics von Remote-Diensten. Er bietet eine dedizierte Oberfläche zum Navigieren in Remote-Bibliotheken, zum Suchen nach bestimmten Titeln und zum Anzeigen von Medieninhalten unter Windows, Linux und macOS. Die Anwendung enthält ein integriertes KI-Tool zur Hochskalierung der Auflösung und visuellen Qualität von Comic-Bildern. Sie fungiert zudem als Offline-Downloader, der es Benutzern ermöglicht, Comic-Sets und Bilder von Remote-Anbietern auf lokalem Speicher zu archivieren. Das System handhabt asynchrones Medien-Downloading und lokales Image-Caching, um den Offline-Zugriff zu unterstützen. Es bietet zudem eine Benutzerkontenverwaltung für personalisierte Einstellungen und eine Comic-Viewer-Oberfläche, die für die Desktop-Nutzung optimiert ist.
Implements background worker pipelines optimized for chunked media retrieval to keep the user interface responsive.
Tunny ist eine Worker-Pool-Bibliothek und ein Concurrency-Manager für Go. Er fungiert als Scheduler für gleichzeitige Aufgaben, der die Anzahl paralleler Worker begrenzt, die Jobs verarbeiten, um eine Erschöpfung der Systemressourcen zu verhindern. Das Projekt ermöglicht die Aufrechterhaltung eines persistenten Zustands innerhalb einzelner Worker-Routinen, um wiederholte Initialisierungskosten zu vermeiden. Es unterstützt zudem dynamisches Worker-Scaling, wodurch die Anzahl aktiver Hintergrund-Worker in Echtzeit angepasst werden kann, ohne laufende Aufgaben zu unterbrechen. Die Bibliothek bietet Mechanismen zur Durchsetzung von Task-Timeouts und zur Verwaltung des Worker-Lifecycles, einschließlich des geordneten Herunterfahrens von Routine-Pools. Sie nutzt Concurrency-Limiting, um die Gesamtzahl aktiver Goroutines zu beschränken.
Provides capabilities for starting, stopping, and dynamically scaling background worker processes.
Oban is a distributed background job processing system and task scheduler that uses PostgreSQL for transactional job storage and reliable execution across multiple nodes. It serves as a PostgreSQL-backed background worker and job queue, coordinating task execution and concurrency through a relational database to ensure delivery guarantees. The system differentiates itself through a distributed workflow orchestrator capable of managing multi-step processing pipelines, dependent job sequencing, and shared context. It provides advanced orchestration tools including job batching, chunked processi
Implements a worker system that leverages PostgreSQL to coordinate job concurrency and rate limiting across nodes.
Han1meViewer is an Android media viewer application for browsing, streaming, and downloading media content from a specific external website. It functions as a privacy-focused media browser that adapts external site content to a mobile-optimized interface. The application features tools for bypassing network restrictions through proxy and CDN configuration. It provides privacy protections including application locks and launcher icon disguises to hide the application's purpose. The project covers a wide range of capabilities, including background video downloading for offline media management
Implements a background service pipeline to manage chunked media downloads with persistent progress tracking.
Nano is a distributed application framework designed for building systems using an actor-based messaging model. It functions as a distributed actor framework that decouples components through asynchronous messaging to maintain state isolation across a server cluster. The system acts as a cluster message dispatcher and session-aware request router, tracking client state to route incoming messages to the specific agent holding the session data. It utilizes a distributed agent registry to coordinate the dispatching of messages between multiple application instances acting as agents. The framewo
Orchestrates long-running background workers and synchronizes their results back into the main execution stream.
This repository serves as an educational resource for implementing asynchronous programming patterns in Android applications using Kotlin Coroutines and Flow. It provides a collection of practical examples and unit tests designed to demonstrate how to manage background tasks, concurrent network requests, and reactive data streams while maintaining a responsive user interface. The project focuses on structured concurrency, offering patterns for organizing tasks into hierarchical scopes that automatically propagate cancellation and lifecycle signals. It emphasizes the integration of lifecycle-a
Runs deferred or periodic operations using system-managed background workers for efficient task handling.
Node-worker-farm is a framework for distributing intensive computational tasks across a managed pool of background processes. By offloading heavy operations to independent child processes, it enables concurrent execution and prevents the main event loop from becoming blocked, allowing applications to maximize CPU utilization across available processor cores. The library distinguishes itself through a proxy-based interface that maps local function calls directly to exported methods within remote worker modules. This abstraction simplifies the distribution of work by treating background tasks a
Automates the lifecycle and cleanup of background worker processes to maintain system stability.
This project is a PHP framework for offloading time-consuming tasks to background workers, enabling asynchronous processing to keep the main application request cycle responsive. It provides a unified interface for managing background job queues, allowing developers to decouple application logic from specific storage backends and message brokers. The system distinguishes itself through a driver-based abstraction layer that supports diverse infrastructure, including relational databases, Redis, and RabbitMQ. It manages the full lifecycle of background tasks, offering capabilities for delayed s
Manages the lifecycle, timing, and concurrency of persistent background worker processes.