Awesome GitHub RepositoriesTask Worker Configurations

Conductor is a durable workflow engine designed to orchestrate complex, long-running business processes and autonomous agent loops. It functions as a stateful execution platform that persists the entire history of a process, ensuring that workflows remain reliable and recoverable across infrastructure failures, system restarts, and transient network errors. By managing task lifecycles, worker polling, and state transitions, it provides a centralized coordination layer for distributed systems. The platform distinguishes itself through its specialized support for AI agent orchestration, allowin

grpc-go is a Go language implementation of the gRPC framework, providing a remote procedure call library for high-performance service communication. It uses the HTTP/2 protocol to execute functions on remote servers as if they were local methods and utilizes protobuf service bindings to generate type-safe client and server code. The project features a bidirectional streaming transport that supports asynchronous, full-duplex message streams between clients and servers. This networking layer allows for various communication patterns, including client-to-server and server-to-client streaming, to

Temporal is a distributed workflow orchestration engine designed to manage fault-tolerant, stateful, and long-running background processes. It functions as a platform for coordinating complex cross-service operations, ensuring consistency and reliability in distributed environments by decoupling workflow orchestration from task execution. The platform distinguishes itself through a deterministic, event-sourced execution model that reconstructs workflow state by re-executing code from an immutable event log. This approach isolates non-deterministic side effects into managed activities, allowin

The Operator SDK is a framework for building, packaging, and managing custom controllers that extend the Kubernetes API. It serves as a toolset for defining new API types and implementing reconcile loops to automate the lifecycles of complex applications. The project provides specialized support for creating operators based on Helm charts or Ansible playbooks, allowing users to maintain a desired cluster state using existing automation tools. It includes a dedicated system for packaging controllers into standardized container image bundles for distribution via the Operator Lifecycle Manager.

Hatchet is an open-source durable workflow engine and task orchestration platform. It provides a framework for building and executing fault-tolerant, multi-step pipelines as directed acyclic graphs (DAGs), with automatic retries, scheduling, and real-time observability. The system is built around durable task checkpointing, which persists execution state after each step so work can resume from the last checkpoint after a worker crash or restart, and it supports event-driven task resumption that pauses a task until a matching external event arrives. The platform distinguishes itself through it

Osmedeus is a security workflow orchestration engine that coordinates AI agents, shell commands, and scanning tools through declarative YAML pipelines. It functions as a distributed security scanner, a declarative workflow automator, and an AI agent framework for security, enabling automated multi-step security analysis with conditional branching, parallel execution, and distributed workers. The engine distinguishes itself through a hybrid runner model that executes workflow steps on the local host, inside Docker containers, or over SSH to remote machines, selected per step or module. It supp

rllm is an asynchronous reinforcement learning framework for training language agents. It provides a unified pipeline that runs the same agent code for both evaluation and training, automatically capturing traces for gradient computation. The framework supports distributed reinforcement learning across multiple GPUs and nodes using pluggable backends, and executes agents in isolated sandboxes—either locally or in the cloud—for safe and scalable rollout collection. It trains agents built with LangGraph, SmolAgents, OpenAI Agents SDK, or custom frameworks without requiring core logic changes. T

Buildbot es un framework de integración continua (CI) basado en Python y un orquestador de builds distribuido. Funciona como un motor de automatización de builds que coordina la obtención del código fuente, la ejecución de pasos de compilación y la generación de informes a través de un controlador central y una red de agentes trabajadores remotos. El sistema se distingue por su arquitectura de extensibilidad basada en plugins y un modelo de distribución maestro-trabajador. Permite la modificación dinámica de los builds en tiempo de ejecución y admite un backend de base de datos conectable para persistir el estado del sistema y el historial de builds. El proyecto cubre una amplia gama de capacidades, incluyendo la programación automatizada de builds y la orquestación de pipelines, integración con control de versiones mediante polling y webhooks, y el aprovisionamiento de trabajadores en servidores físicos, contenedores Docker y clusters de Kubernetes. También proporciona monitorización y observabilidad integral mediante el análisis de logs de build y seguimiento de rendimiento, junto con gestión segura de secretos y autenticación multi-proveedor. El control administrativo está disponible a través de una interfaz web dedicada y herramientas de línea de comandos para la validación de configuración y gestión de procesos.

Piscina is a Node.js worker thread pool that runs CPU-intensive JavaScript functions across multiple threads for parallel execution. It manages a dynamic pool of worker threads with configurable size, handling task submission, cancellation, and lifecycle management through a promise-based interface. The pool supports AbortController-based task cancellation, enabling clean termination of submitted or running tasks without disrupting other work. It enforces per-worker memory limits through V8 resource caps and applies backpressure with a configurable maximum queue size that emits a drain event

Digger es un sistema de automatización de infraestructura GitOps y orquestador de Terraform. Permite la ejecución de planes de infraestructura y se aplica directamente desde solicitudes de extracción (pull requests) de control de versiones y tuberías de CI. El proyecto proporciona un framework para la gobernanza basada en políticas y la gestión de estado. Aplica controles de acceso basados en roles y políticas de seguridad personalizadas sobre los cambios de infraestructura, mientras almacena centralmente archivos de estado con historial de versiones y controles de acceso. El sistema gestiona los flujos de trabajo de infraestructura a través de disparadores de comentarios de solicitudes de extracción y ejecución remota. Incluye capacidades para la detección de deriva (drift) para identificar discrepancias entre los estados reales y deseados de la nube, bloqueo de ejecución concurrente para evitar condiciones de carrera y persistencia de planes para garantizar que las versiones aprobadas se apliquen a la producción.

Tart is an Apple Silicon virtualization manager used to build and run macOS and Linux virtual machines using native hardware virtualization frameworks. It functions as a virtual machine cluster orchestrator and an ephemeral runner for executing continuous integration pipeline steps within isolated, short-lived environments. The system utilizes an OCI-compatible virtual machine registry to push and pull images via standardized container registries. It features a controller-worker architecture that schedules virtual machine lifecycles across remote worker nodes, incorporating a secure SSH jump

Visual Insights es una plataforma de análisis exploratorio de datos automatizado y herramienta de inferencia causal diseñada para descubrir patrones y relaciones de causa y efecto dentro de los datasets. Funciona como una librería de visualización de datos interactiva utilizando un enfoque de gramática de gráficos para generar gráficos y dashboards multidimensionales. El proyecto se distingue por una interfaz de lenguaje natural que traduce preguntas en texto plano a respuestas y visualizaciones de datos mediante un modelo de lenguaje. Proporciona un framework especializado para el descubrimiento e inferencia causal, permitiendo a los usuarios identificar enlaces entre variables mediante gráficos causales interactivos y realizar análisis de tipo "qué pasaría si" (what-if) para validar hipótesis. La plataforma cubre un amplio rango de capacidades, incluyendo limpieza visual de datos, perfilado estadístico y transformación automatizada de datasets. Soporta la integración de datos diversos desde archivos locales y bases de datos remotas, y cuenta con un motor de procesamiento de alto rendimiento para manejar grandes datasets localmente. Además, el sistema permite embeber componentes de análisis interactivos en aplicaciones web y notebooks.

Horizon is a background job orchestrator and worker manager for Redis queues. It provides a monitoring dashboard to track job throughput, wait times, and failure rates, alongside a system for managing job retries, execution timeouts, and worker distribution. The project distinguishes itself through a Redis-backed monitoring interface that identifies system bottlenecks and a queue alerting system that sends notifications when background job wait times exceed defined thresholds. Worker processes are managed via version-controlled configuration files to ensure consistent balancing and scaling ac

This is a Model Context Protocol (MCP) server that exposes Cloudflare’s edge platform as a set of tools for AI assistants. It provides a unified interface for managing Cloudflare Workers, including deployment, versioning, and configuration, alongside access to Workers AI for running inference tasks using pre-trained models. The server also covers Cloudflare’s data storage services, including D1 serverless SQLite databases, KV globally distributed key-value stores, and R2 S3-compatible object storage. Beyond core resource management, the server enables automation and scheduling through cron tr

Queue Classic es un framework de procesamiento en segundo plano para aplicaciones Ruby que gestiona tareas asíncronas utilizando tablas de bases de datos relacionales para la persistencia de trabajos. Al almacenar tareas directamente dentro de la base de datos, el sistema asegura que la creación de trabajos permanezca acoplada con las transacciones de la aplicación, garantizando que las tareas solo se pongan en cola cuando los cambios de datos asociados se confirmen (commit) con éxito. El framework coordina procesos de trabajo concurrentes a través de mecanismos de bloqueo a nivel de base de datos, que evitan la ejecución redundante y permiten el procesamiento de tareas distribuidas sin necesidad de un broker de mensajes externo. Los trabajadores operan sondeando la base de datos en busca de trabajos pendientes, admitiendo tanto la ejecución inmediata como la programación retrasada basada en marcas de tiempo futuras. El sistema proporciona un mecanismo para descargar operaciones que consumen mucho tiempo del hilo principal de la aplicación a procesos de trabajo independientes. Admite configuraciones de manejadores personalizados, permitiendo a los desarrolladores definir lógica específica para tareas en segundo plano mientras mantienen la consistencia a través del almacenamiento relacional subyacente.