awesome-repositories.com
Blog
MCP
awesome-repositories.com

Descoperă cele mai bune repository-uri open source cu căutare AI.

ExploreazăCăutări recomandateAlternative open-sourceSoftware self-hostedBlogHartă site
ProiectServer MCPDespreCum realizăm clasamentulPresă
LegalConfidențialitateTermeni
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

21 repository-uri

Awesome GitHub RepositoriesBatch Workload Execution

Tools for executing non-interactive, task-based container workloads that run to completion.

Explore 21 awesome GitHub repositories matching devops & infrastructure · Batch Workload Execution. Refine with filters or upvote what's useful.

Awesome Batch Workload Execution GitHub Repositories

Găsește cele mai bune repo-uri cu AI.Vom căuta cele mai potrivite repository-uri folosind AI.
  • kubernetes/kubernetesAvatar kubernetes

    kubernetes/kubernetes

    123,197Vezi pe GitHub↗

    Kubernetes is a distributed container orchestration platform that automates the deployment, scaling, and management of containerized applications across clusters of computing nodes. It functions as a declarative infrastructure controller, utilizing a control loop architecture that continuously monitors the current system state against user-defined configurations to ensure desired operational outcomes. The system relies on a centralized API-driven interface and a replicated key-value store to maintain a consistent source of truth for all cluster objects. The platform distinguishes itself throu

    Supports non-interactive, task-based workloads by automatically managing container lifecycles until completion.

    Gocncfcontainersgo
    Vezi pe GitHub↗123,197
  • prefecthq/prefectAvatar PrefectHQ

    PrefectHQ/prefect

    21,640Vezi pe GitHub↗

    Prefect is a workflow orchestration platform designed to define, schedule, and monitor complex data pipelines as Python code. It functions as a container-native engine that wraps individual tasks in isolated environments, ensuring consistent dependencies and resource allocation across diverse infrastructure. By utilizing a state-machine-based orchestration model, the system tracks execution progress through discrete transitions and persistent event logs to maintain reliable and observable task processing. The platform distinguishes itself through a decoupled worker-API architecture, which sep

    Runs workflow tasks as isolated jobs within managed serverless container environments.

    Pythonautomationdatadata-engineering
    Vezi pe GitHub↗21,640
  • anthropics/claude-quickstartsAvatar anthropics

    anthropics/claude-quickstarts

    17,085Vezi pe GitHub↗

    Claude Quickstarts is a development framework and collection of reference implementations designed for building autonomous agents. It provides the foundational patterns necessary to orchestrate multi-agent workflows, enabling models to perform complex, multi-step tasks across software engineering, customer support, and computer-use domains. The platform distinguishes itself through specialized capabilities for desktop and browser automation, allowing agents to interact with graphical interfaces by capturing visual context and executing precise mouse and keyboard inputs. It includes robust inf

    Chains multiple predictable actions into a single request to reduce latency and costs for workflows.

    Python
    Vezi pe GitHub↗17,085
  • dask/daskAvatar dask

    dask/dask

    13,746Vezi pe GitHub↗

    Dask este un framework de calcul paralel și un scheduler de sarcini distribuit conceput pentru a scala fluxurile de lucru de știința datelor în Python de la mașini individuale la clustere mari. Acesta funcționează ca un manager de resurse de cluster care orchestrează logica computațională prin reprezentarea sarcinilor și a dependențelor acestora sub formă de grafuri aciclice direcționate. Această arhitectură permite sistemului să automatizeze distribuția sarcinilor de lucru pe hardware-ul disponibil, gestionând în același timp cerințe complexe de execuție. Proiectul se distinge printr-un motor de evaluare leneșă (lazy) care amână operațiunile pe date până când sunt solicitate explicit, permițând optimizarea globală a grafului și alocarea eficientă a resurselor. Acesta încorporează „spilling” de date conștient de memorie pentru a preveni blocarea sistemului la procesarea seturilor de date care depășesc memoria disponibilă și utilizează fuziunea grafului de sarcini pentru a combina secvențe de operațiuni în pași de execuție unici, minimizând overhead-ul de programare și comunicarea între noduri. Platforma oferă o suprafață cuprinzătoare de capabilități pentru analiza datelor la scară largă, inclusiv suport pentru învățare automată distribuită, integrare cu calcul de înaltă performanță și procesare paralelă a datelor. Oferă instrumente extinse pentru gestionarea ciclului de viață al clusterului, profilarea performanței și monitorizarea în timp real a execuției sarcinilor. Utilizatorii pot implementa aceste medii pe diverse infrastructuri, inclusiv hardware local, furnizori de cloud, sisteme containerizate și clustere de calcul de înaltă performanță.

    Processes data tasks on individual compute nodes by connecting to a central scheduler and reporting completion status.

    Pythondasknumpypandas
    Vezi pe GitHub↗13,746
  • aws/aws-cdkAvatar aws

    aws/aws-cdk

    12,817Vezi pe GitHub↗

    The AWS Cloud Development Kit is an infrastructure-as-code framework that enables developers to define and provision cloud resources using familiar programming languages. By utilizing construct-based synthesis, it translates high-level, object-oriented code into declarative templates, allowing for the automated management of complex cloud environments through a centralized, code-driven control plane. The framework distinguishes itself through its ability to model infrastructure as a dependency-aware resource graph, ensuring that components are provisioned and updated in the correct order. It

    Executes large-scale computational tasks by automatically provisioning and managing infrastructure.

    TypeScriptawscloud-infrastructurehacktoberfest
    Vezi pe GitHub↗12,817
  • boto/boto3Avatar boto

    boto/boto3

    9,834Vezi pe GitHub↗

    Boto3 is the AWS SDK for Python, providing a programmatic interface for managing and automating AWS cloud infrastructure and services. It serves as a cloud management API client and resource manager for provisioning, configuring, and scaling virtual servers, databases, and storage. The library enables the implementation of infrastructure-as-code through declarative templates and scripts, allowing for the deployment of identical resource stacks across multiple accounts and geographic regions. It also provides a framework for coordinating distributed workflows, serverless functions, and contain

    Provides tools for executing and optimizing the distribution of large-scale non-interactive batch workloads.

    Pythonawsaws-sdkcloud
    Vezi pe GitHub↗9,834
  • microsoft/ufoAvatar microsoft

    microsoft/UFO

    9,017Vezi pe GitHub↗

    UFO is a multi-device task orchestrator and LLM agent orchestration framework designed to decompose natural language requests into executable task graphs. It functions as a cross-platform UI automation tool capable of performing interactions on Windows and mobile devices while routing tasks to distributed agents based on their hardware and software capabilities. The system is distinguished by its RAG-enhanced agent architecture, which integrates external documentation and previous execution traces to improve decision-making. It employs a hybrid UI detection approach that combines computer vis

    Groups multiple speculative actions into single requests to optimize latency and reduce the number of model calls.

    Pythonagentautomationcopilot
    Vezi pe GitHub↗9,017
  • techempower/frameworkbenchmarksAvatar TechEmpower

    TechEmpower/FrameworkBenchmarks

    8,112Vezi pe GitHub↗

    TechEmpower FrameworkBenchmarks is an open-source project that provides a standardized, reproducible suite for measuring and comparing the performance of web frameworks across many languages. At its core, it defines a set of common server-side tasks—such as JSON serialization, database queries, and server-side template rendering—and executes them uniformly against hundreds of framework implementations to produce comparable throughput and latency metrics. The project is built around a multi-language benchmark harness that automates the full test lifecycle, from dependency installation and serve

    Executes a suite of predefined HTTP workloads across multiple framework implementations to measure throughput and latency.

    C++benchmarkframeworkframeworkbenchmarks
    Vezi pe GitHub↗8,112
  • automl/auto-sklearnAvatar automl

    automl/auto-sklearn

    8,111Vezi pe GitHub↗

    This is a scikit-learn automated machine learning framework designed to optimize model selection and hyperparameters. It functions as an automated model selector and hyperparameter optimization tool for classification and regression tasks, utilizing an automated ensemble builder to combine high-performing models for increased predictive accuracy. The system features a distributed search engine that uses Dask for parallel machine learning optimization across CPU cores or clusters. It implements a budget-based evaluation strategy through successive halving to prioritize promising model configur

    Runs predefined model training tasks in parallel across hardware to accelerate model discovery.

    Python
    Vezi pe GitHub↗8,111
  • erikgrinaker/toydbAvatar erikgrinaker

    erikgrinaker/toydb

    7,251Vezi pe GitHub↗

    ToyDB is a distributed SQL database that provides a system for storing and querying data across multiple nodes. It focuses on maintaining strong consistency and fault tolerance through the implementation of a distributed consensus algorithm. The project distinguishes itself by supporting historical data versioning, enabling time-travel queries to retrieve the state of the database from a specific point in the past. It utilizes multi-version concurrency control to manage ACID transactions and ensure data integrity during concurrent operations. The system covers relational data modeling with t

    Executes predefined read, write, and transactional benchmarks to measure overall cluster performance.

    Rust
    Vezi pe GitHub↗7,251
  • apache/openwhiskAvatar apache

    apache/openwhisk

    6,779Vezi pe GitHub↗

    OpenWhisk is a serverless cloud platform designed for deploying and executing stateless functions in response to API calls or events. It serves as a complete serverless stack, providing an API gateway for functions, a function-as-a-service runtime manager, and an event-driven workflow engine. The platform distinguishes itself through a polyglot execution model that supports multiple language runtimes and allows for the creation of custom runtimes using Docker containers. It enables complex logic through function orchestration and composition, allowing multiple functions to be chained into seq

    Links multiple functions together into sequential pipelines where the output of one serves as the input for the next.

    Scala
    Vezi pe GitHub↗6,779
  • akopytov/sysbenchAvatar akopytov

    akopytov/sysbench

    6,744Vezi pe GitHub↗

    sysbench is a database and system benchmark tool used to measure the throughput and latency of database systems and hardware components. It functions as a multi-threaded workload generator and hardware performance profiler designed to determine how systems perform under heavy load. The project serves as a scriptable benchmark engine, allowing for the definition of custom performance scenarios through scripts. It simulates real-world traffic patterns by generating random data based on mathematical probability distributions, such as Zipfian, Gaussian, or Pareto. Capabilities cover database per

    Executes predefined computational tasks and database queries to isolate and measure the performance of specific hardware subsystems.

    C
    Vezi pe GitHub↗6,744
  • stackstorm/st2Avatar StackStorm

    StackStorm/st2

    6,487Vezi pe GitHub↗

    StackStorm is an event-driven automation platform that watches for events from external systems and triggers workflows, actions, and remediation across infrastructure tools. At its core, it provides a workflow orchestration engine that chains multiple actions and conditional logic into reusable, multi-step workflows for complex automation tasks, alongside a rules engine that applies matching criteria to triggers and maps trigger payload data to action inputs for automated responses. The platform distinguishes itself through a ChatOps integration framework that enables executing commands and r

    Assembles multiple individual tasks into a reusable, ordered pipeline that runs as a single automated workflow.

    Pythonauto-remediationautomationchatops
    Vezi pe GitHub↗6,487
  • zenml-io/zenmlAvatar zenml-io

    zenml-io/zenml

    5,451Vezi pe GitHub↗

    ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented

    Configures the server workload manager to support snapshot-backed deployment execution and automated pipeline re-runs from checkpoints.

    Pythonagentopsagentsai
    Vezi pe GitHub↗5,451
  • aws/containers-roadmapAvatar aws

    aws/containers-roadmap

    5,351Vezi pe GitHub↗

    Acest proiect oferă roadmap-uri strategice și ghiduri care detaliază evoluția și tiparele de deployment ale serviciilor gestionate de orchestrare a containerelor și securitate. Servește drept document public de urmărire pentru funcționalitățile viitoare și prioritățile de dezvoltare pentru EKS, ECS, ECR și Fargate. Resursa include un ghid de orchestrare a containerelor în cloud și o strategie pentru Kubernetes și ECS, conturând dezvoltarea serviciilor gestionate de Kubernetes și a serviciilor de orchestrare proprietare pentru infrastructura cloud. De asemenea, oferă un plan de securitate și monitorizare axat pe scanarea activităților malițioase și urmărirea sănătății workload-urilor. Materialul acoperă o gamă largă de capabilități de infrastructură, inclusiv provizionarea resurselor, scalarea automată a resurselor de calcul și a sarcinilor, și gestionarea imaginilor de containere. Abordează rețelistica și gestionarea traficului prin load balancing și optimizarea densității pod-urilor, precum și observabilitatea prin rutarea log-urilor și urmărirea performanței.

    Outlines the execution of non-interactive batch jobs and stateless applications across managed infrastructure.

    Shellawscontainersecr
    Vezi pe GitHub↗5,351
  • kubernetes/websiteAvatar kubernetes

    kubernetes/website

    5,281Vezi pe GitHub↗

    Acest proiect este site-ul oficial de documentație Kubernetes, servind drept resursă tehnică cuprinzătoare pentru gestionarea aplicațiilor containerizate. Funcționează ca un portal de documentație tehnică open-source care oferă ghiduri, tutoriale și materiale de referință pentru software-ul de sisteme distribuite. Site-ul este construit folosind un generator de site-uri statice cu o arhitectură de template-uri bazată pe componente pentru a menține tipare de design consistente. Dispune de un generator de documentație OpenAPI care parsează specificațiile tehnice pentru a construi și actualiza automat pagini de referință API structurate. Pentru a susține o audiență globală, utilizează rutarea conținutului conștientă de internaționalizare pentru a gestiona versiunile localizate ale manualelor. Fluxul de lucru de dezvoltare include un server cu hot-reloading pentru previzualizarea modificărilor site-ului și randarea țintită a limbajului pentru a accelera timpii de build. Proiectul acoperă o gamă largă de domenii tehnice, inclusiv orchestrarea clusterelor, configurarea rețelei și gestionarea resurselor.

    Executes non-interactive background jobs by ensuring failed containers are replaced until completion.

    HTML
    Vezi pe GitHub↗5,281
  • bram2w/baserowAvatar bram2w

    bram2w/baserow

    5,085Vezi pe GitHub↗

    Baserow este o bază de date relațională no-code și un constructor de aplicații care permite utilizatorilor să creeze tabele de date structurate și instrumente de business printr-o interfață vizuală. Funcționează ca un backend de date REST API headless și un spațiu de lucru de date self-hosted, oferind o platformă pentru gestionarea bazelor de date colaborative, menținând în același timp controlul deplin asupra rezidenței datelor. Platforma integrează modele de limbaj mari pentru a servi ca o platformă de date bazată pe LLM, capabilă să genereze structuri de baze de date, conținut de înregistrări și fluxuri de lucru tehnice din limbaj natural. De asemenea, acționează ca un server Model Context Protocol, permițând agenților AI de la distanță să interacționeze programatic cu înregistrările structurate din baza de date. Dincolo de capabilitățile sale de bază de bază de date, proiectul oferă instrumente pentru construirea de portaluri externe de marcă, aplicații de business interne și tablouri de bord interactive. Include un motor de automatizare bazat pe evenimente pentru automatizarea proceselor de business și suportă o gamă largă de integrări API, inclusiv webhook-uri, streaming de evenimente WebSocket și sincronizarea datelor cu terțe părți. Software-ul este conceput pentru găzduirea pe infrastructură privată și deployment containerizat pentru a asigura suveranitatea și securitatea datelor.

    Chains complex actions and notifications based on database events to automate repetitive tasks

    Python
    Vezi pe GitHub↗5,085
  • runhey/onmyojiautoscriptAvatar runhey

    runhey/OnmyojiAutoScript

    4,371Vezi pe GitHub↗

    OnmyojiAutoScript este un instrument de automatizare pentru jocuri Android bazat pe ADB, care utilizează recunoașterea imaginilor pentru a automatiza rutinele zilnice și farming-ul de resurse. Acesta funcționează ca un bot de viziune computerizată și controler de emulator, coordonând execuția simultană a sarcinilor pe mai multe profiluri de utilizator și porturi. Sistemul dispune de un optimizator de resurse de joc care utilizează modele de eficiență pentru a distribui inteligent obiectele și activele din joc între personaje. Pentru a evita detectarea automată, folosește un simulator de input anti-detecție care imită tiparele de interacțiune umană prin comportamente variabile de click și swipe. Software-ul acoperă o gamă largă de logică de automatizare, inclusiv execuția bazată pe evenimente, prioritizarea acțiunilor țintă și programarea secvențelor de sarcini. Capabilitățile sale operaționale se extind la automatizarea rotațiilor de personaje, farming-ul în dungeon-uri, obiectivele săptămânale și coordonarea în cadrul breslelor. Monitorizarea și întreținerea sunt susținute prin exporturi de jurnale de diagnostic, detectarea blocajelor scripturilor și o interfață grafică pentru gestionarea activelor sarcinilor și a parametrilor de recunoaștere a imaginilor.

    Triggers automation steps based on the detection of visual cues instead of fixed time delays.

    Pythonoasonmyojiscript
    Vezi pe GitHub↗4,371
  • rogandawes/p4wnp1_aloaAvatar RoganDawes

    RoganDawes/P4wnP1_aloa

    4,376Vezi pe GitHub↗

    P4wnP1_aloa este un framework de securitate fizică conceput pentru a transforma un Raspberry Pi într-un dispozitiv dedicat pentru red teaming și testare de penetrare. Funcționează ca un instrument de emulare a gadget-urilor USB, un utilitar de spoofing pentru rețele wireless și un controler de automatizare GPIO. Sistemul permite emularea perifericelor USB compozite, cum ar fi tastaturi, mouse-uri și dispozitive de stocare, fără a necesita o repornire. Oferă, de asemenea, capabilități pentru difuzarea de beacon-uri false de puncte de acces și răspunsuri spoofed pentru a emula diverse medii de rețea wireless. Framework-ul include o interfață de management la distanță accesibilă printr-o aplicație web și o interfață în linie de comandă. Dispune de un sistem de declanșare bazat pe evenimente pentru executarea scripturilor pe baza schimbărilor de stare hardware și a input-ului GPIO, precum și un sistem de configurare bazat pe template-uri pentru gestionarea setărilor subsistemelor. Proiectul oferă instrumente pentru automatizarea input-ului, configurarea interfeței de rețea și crearea de interfețe de rețea bazate pe Bluetooth pentru acces la distanță.

    Coordinates multiple triggers using group channels to ensure actions execute only after a specific sequence of events.

    JavaScript
    Vezi pe GitHub↗4,376
  • iree-org/ireeAvatar iree-org

    iree-org/iree

    3,819Vezi pe GitHub↗

    IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis

    Runs recorded sequences of HAL operations on matching devices to reproduce specific hardware behaviors.

    C++compilercudajax
    Vezi pe GitHub↗3,819
Înapoi12Înainte
  1. Home
  2. DevOps & Infrastructure
  3. Container Orchestration
  4. Workload Scheduling and Scaling
  5. Batch Workload Execution

Explorează sub-etichetele

  • Action Chaining1 sub-tagChaining multiple predictable actions into single requests to optimize latency and cost. **Distinct from Batch Workload Execution:** Distinct from Batch Workload Execution: focuses on chaining model-driven actions rather than containerized batch jobs.
  • Database Workload SimulationExecution of synthetic database read and write patterns to measure cluster performance. **Distinct from Batch Workload Execution:** Specific to database stress testing and performance measurement, unlike general container batch workloads
  • Function SequencesSequential chaining of functions where the output of one becomes the input of the next. **Distinct from Action Chaining:** Focuses on the logical flow of data between general-purpose functions rather than optimizing latency for model-driven actions.
  • HAL Workload ReplaysExecution of recorded Hardware Abstraction Layer operations to reproduce and debug hardware behaviors. **Distinct from Batch Workload Execution:** Specifically targets the reproduction of HAL-level operations on hardware, unlike general batch container workloads.
  • HTTP Workload ExecutionsExecution of predefined HTTP workloads to measure server throughput and latency. **Distinct from Batch Workload Execution:** Distinct from Batch Workload Execution: focuses on HTTP-based workloads rather than general container batch tasks.