Awesome GitHub RepositoriesTask Worker Configurations

Conductor is a durable workflow engine designed to orchestrate complex, long-running business processes and autonomous agent loops. It functions as a stateful execution platform that persists the entire history of a process, ensuring that workflows remain reliable and recoverable across infrastructure failures, system restarts, and transient network errors. By managing task lifecycles, worker polling, and state transitions, it provides a centralized coordination layer for distributed systems. The platform distinguishes itself through its specialized support for AI agent orchestration, allowin

grpc-go is a Go language implementation of the gRPC framework, providing a remote procedure call library for high-performance service communication. It uses the HTTP/2 protocol to execute functions on remote servers as if they were local methods and utilizes protobuf service bindings to generate type-safe client and server code. The project features a bidirectional streaming transport that supports asynchronous, full-duplex message streams between clients and servers. This networking layer allows for various communication patterns, including client-to-server and server-to-client streaming, to

Temporal is a distributed workflow orchestration engine designed to manage fault-tolerant, stateful, and long-running background processes. It functions as a platform for coordinating complex cross-service operations, ensuring consistency and reliability in distributed environments by decoupling workflow orchestration from task execution. The platform distinguishes itself through a deterministic, event-sourced execution model that reconstructs workflow state by re-executing code from an immutable event log. This approach isolates non-deterministic side effects into managed activities, allowin

The Operator SDK is a framework for building, packaging, and managing custom controllers that extend the Kubernetes API. It serves as a toolset for defining new API types and implementing reconcile loops to automate the lifecycles of complex applications. The project provides specialized support for creating operators based on Helm charts or Ansible playbooks, allowing users to maintain a desired cluster state using existing automation tools. It includes a dedicated system for packaging controllers into standardized container image bundles for distribution via the Operator Lifecycle Manager.

Hatchet is an open-source durable workflow engine and task orchestration platform. It provides a framework for building and executing fault-tolerant, multi-step pipelines as directed acyclic graphs (DAGs), with automatic retries, scheduling, and real-time observability. The system is built around durable task checkpointing, which persists execution state after each step so work can resume from the last checkpoint after a worker crash or restart, and it supports event-driven task resumption that pauses a task until a matching external event arrives. The platform distinguishes itself through it

Osmedeus is a security workflow orchestration engine that coordinates AI agents, shell commands, and scanning tools through declarative YAML pipelines. It functions as a distributed security scanner, a declarative workflow automator, and an AI agent framework for security, enabling automated multi-step security analysis with conditional branching, parallel execution, and distributed workers. The engine distinguishes itself through a hybrid runner model that executes workflow steps on the local host, inside Docker containers, or over SSH to remote machines, selected per step or module. It supp

rllm is an asynchronous reinforcement learning framework for training language agents. It provides a unified pipeline that runs the same agent code for both evaluation and training, automatically capturing traces for gradient computation. The framework supports distributed reinforcement learning across multiple GPUs and nodes using pluggable backends, and executes agents in isolated sandboxes—either locally or in the cloud—for safe and scalable rollout collection. It trains agents built with LangGraph, SmolAgents, OpenAI Agents SDK, or custom frameworks without requiring core logic changes. T

Buildbot هو إطار عمل للتكامل المستمر (CI) ومنسق بناء موزع يعتمد على Python. يعمل كمحرك لأتمتة البناء ينسق استرجاع الكود المصدري، وتنفيذ خطوات البناء، وإعداد التقارير عن النتائج من خلال وحدة تحكم مركزية وشبكة من وكلاء العمل عن بُعد. يتميز النظام ببنية قابلة للتوسيع تعتمد على الإضافات ونموذج توزيع رئيسي-تابع. يسمح بتعديل البناء ديناميكياً في وقت التشغيل ويدعم قاعدة بيانات خلفية قابلة للتوصيل لحفظ حالة النظام وبيانات البناء التاريخية. يغطي المشروع مجموعة واسعة من القدرات، بما في ذلك جدولة البناء الآلية وتنسيق خطوط الأنابيب، والتكامل مع أنظمة التحكم في الإصدار عبر الاستطلاع (Polling) وخطافات الويب (Webhooks)، وتوفير العمال عبر الخوادم الفعلية، وحاويات Docker، وعناقيد Kubernetes. كما يوفر مراقبة شاملة عبر تحليل سجلات البناء وتتبع الأداء، إلى جانب إدارة الأسرار الآمنة والمصادقة متعددة الموفرين. تتوفر السيطرة الإدارية من خلال واجهة ويب مخصصة وأدوات سطر أوامر للتحقق من التكوين وإدارة العمليات.

Piscina is a Node.js worker thread pool that runs CPU-intensive JavaScript functions across multiple threads for parallel execution. It manages a dynamic pool of worker threads with configurable size, handling task submission, cancellation, and lifecycle management through a promise-based interface. The pool supports AbortController-based task cancellation, enabling clean termination of submitted or running tasks without disrupting other work. It enforces per-worker memory limits through V8 resource caps and applies backpressure with a configurable maximum queue size that emits a drain event

Digger هو نظام لأتمتة البنية التحتية GitOps ومنسق Terraform. يتيح تنفيذ خطط البنية التحتية وتطبيقها مباشرة من طلبات سحب التحكم في الإصدار وخطوط أنابيب CI. يوفر المشروع إطار عمل للحوكمة القائمة على السياسات وإدارة الحالة. ويفرض ضوابط الوصول القائمة على الأدوار وسياسات أمان مخصصة على تغييرات البنية التحتية، مع تخزين ملفات الحالة مركزياً مع سجل الإصدارات وضوابط الوصول. يدير النظام سير عمل البنية التحتية من خلال مشغلات تعليقات طلب السحب والتنفيذ عن بُعد. ويتضمن إمكانيات لاكتشاف الانجراف (drift detection) لتحديد التناقضات بين حالات السحابة الفعلية والمطلوبة، وقفل التنفيذ المتزامن لمنع ظروف السباق، واستمرارية الخطة لضمان تطبيق الإصدارات المعتمدة على الإنتاج.

Tart is an Apple Silicon virtualization manager used to build and run macOS and Linux virtual machines using native hardware virtualization frameworks. It functions as a virtual machine cluster orchestrator and an ephemeral runner for executing continuous integration pipeline steps within isolated, short-lived environments. The system utilizes an OCI-compatible virtual machine registry to push and pull images via standardized container registries. It features a controller-worker architecture that schedules virtual machine lifecycles across remote worker nodes, incorporating a secure SSH jump

Visual Insights is an automated exploratory data analysis platform and causal inference tool designed to discover patterns and cause-and-effect relationships within datasets. It functions as an interactive data visualization library using a grammar-of-graphics approach to generate multi-dimensional charts and dashboards. The project distinguishes itself through a natural language interface that translates plain-text questions into data answers and visualizations via a language model. It provides a specialized framework for causal discovery and inference, allowing users to identify variable li

Horizon is a background job orchestrator and worker manager for Redis queues. It provides a monitoring dashboard to track job throughput, wait times, and failure rates, alongside a system for managing job retries, execution timeouts, and worker distribution. The project distinguishes itself through a Redis-backed monitoring interface that identifies system bottlenecks and a queue alerting system that sends notifications when background job wait times exceed defined thresholds. Worker processes are managed via version-controlled configuration files to ensure consistent balancing and scaling ac

This is a Model Context Protocol (MCP) server that exposes Cloudflare’s edge platform as a set of tools for AI assistants. It provides a unified interface for managing Cloudflare Workers, including deployment, versioning, and configuration, alongside access to Workers AI for running inference tasks using pre-trained models. The server also covers Cloudflare’s data storage services, including D1 serverless SQLite databases, KV globally distributed key-value stores, and R2 S3-compatible object storage. Beyond core resource management, the server enables automation and scheduling through cron tr

Queue Classic هو إطار عمل لمعالجة الخلفية لتطبيقات Ruby يدير المهام غير المتزامنة باستخدام جداول قواعد البيانات العلائقية لاستمرارية الوظائف. من خلال تخزين المهام مباشرة داخل قاعدة البيانات، يضمن النظام بقاء إنشاء الوظائف مقترناً بمعاملات التطبيق، مما يضمن عدم وضع المهام في قائمة الانتظار إلا عند الالتزام بتغييرات البيانات المرتبطة بنجاح. ينسق إطار العمل عمليات العمال المتزامنة من خلال آليات القفل على مستوى قاعدة البيانات، والتي تمنع التنفيذ الزائد وتسمح بمعالجة المهام الموزعة دون الحاجة إلى وسيط رسائل خارجي. يعمل العمال عن طريق استطلاع قاعدة البيانات للوظائف المعلقة، مما يدعم كلاً من التنفيذ الفوري والجدولة المتأخرة بناءً على طوابع زمنية مستقبلية. يوفر النظام آلية لتفريغ العمليات التي تستغرق وقتاً طويلاً من خيط التطبيق الرئيسي إلى عمليات عمال مستقلة. ويدعم تكوينات معالجة مخصصة، مما يسمح للمطورين بتحديد منطق محدد لمهام الخلفية مع الحفاظ على الاتساق من خلال التخزين العلائقي الأساسي.