awesome-repositories.com
Blog
MCP
awesome-repositories.com

Découvrez les meilleurs dépôts open-source grâce à notre recherche par IA.

ExplorerRecherches sélectionnéesAlternatives open sourceLogiciels auto-hébergésBlogPlan du site
ProjetServeur MCPÀ proposNotre méthodologiePresse
Mentions légalesConfidentialitéConditions d'utilisation
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

21 dépôts

Awesome GitHub RepositoriesBatch Workload Execution

Tools for executing non-interactive, task-based container workloads that run to completion.

Explore 21 awesome GitHub repositories matching devops & infrastructure · Batch Workload Execution. Refine with filters or upvote what's useful.

Awesome Batch Workload Execution GitHub Repositories

Trouvez les meilleurs dépôts grâce à l'IA.Nous recherchons les dépôts les plus pertinents grâce à l'IA.
  • kubernetes/kubernetesAvatar de kubernetes

    kubernetes/kubernetes

    123,197Voir sur GitHub↗

    Kubernetes is a distributed container orchestration platform that automates the deployment, scaling, and management of containerized applications across clusters of computing nodes. It functions as a declarative infrastructure controller, utilizing a control loop architecture that continuously monitors the current system state against user-defined configurations to ensure desired operational outcomes. The system relies on a centralized API-driven interface and a replicated key-value store to maintain a consistent source of truth for all cluster objects. The platform distinguishes itself throu

    Supports non-interactive, task-based workloads by automatically managing container lifecycles until completion.

    Gocncfcontainersgo
    Voir sur GitHub↗123,197
  • prefecthq/prefectAvatar de PrefectHQ

    PrefectHQ/prefect

    21,640Voir sur GitHub↗

    Prefect is a workflow orchestration platform designed to define, schedule, and monitor complex data pipelines as Python code. It functions as a container-native engine that wraps individual tasks in isolated environments, ensuring consistent dependencies and resource allocation across diverse infrastructure. By utilizing a state-machine-based orchestration model, the system tracks execution progress through discrete transitions and persistent event logs to maintain reliable and observable task processing. The platform distinguishes itself through a decoupled worker-API architecture, which sep

    Runs workflow tasks as isolated jobs within managed serverless container environments.

    Pythonautomationdatadata-engineering
    Voir sur GitHub↗21,640
  • anthropics/claude-quickstartsAvatar de anthropics

    anthropics/claude-quickstarts

    17,085Voir sur GitHub↗

    Claude Quickstarts is a development framework and collection of reference implementations designed for building autonomous agents. It provides the foundational patterns necessary to orchestrate multi-agent workflows, enabling models to perform complex, multi-step tasks across software engineering, customer support, and computer-use domains. The platform distinguishes itself through specialized capabilities for desktop and browser automation, allowing agents to interact with graphical interfaces by capturing visual context and executing precise mouse and keyboard inputs. It includes robust inf

    Chains multiple predictable actions into a single request to reduce latency and costs for workflows.

    Python
    Voir sur GitHub↗17,085
  • dask/daskAvatar de dask

    dask/dask

    13,746Voir sur GitHub↗

    Dask est un framework de calcul parallèle et un planificateur de tâches distribué conçu pour mettre à l'échelle les flux de travail de science des données Python, des machines uniques aux grands clusters. Il fonctionne comme un gestionnaire de ressources de cluster qui orchestre la logique computationnelle en représentant les tâches et leurs dépendances sous forme de graphes acycliques dirigés. Cette architecture permet au système d'automatiser la distribution des charges de travail sur le matériel disponible tout en gérant des exigences d'exécution complexes. Le projet se distingue par un moteur d'évaluation paresseuse qui diffère les opérations sur les données jusqu'à ce qu'elles soient explicitement demandées, permettant une optimisation globale du graphe et une allocation efficace des ressources. Il intègre le déversement de données conscient de la mémoire pour éviter les plantages du système lors du traitement de jeux de données dépassant la mémoire disponible, et il utilise la fusion de graphes de tâches pour combiner des séquences d'opérations en étapes d'exécution uniques, minimisant la surcharge de planification et la communication entre nœuds. La plateforme fournit une surface de capacités complète pour l'analyse de données à grande échelle, incluant le support pour l'apprentissage automatique distribué, l'intégration du calcul haute performance et le traitement de données parallèle. Elle offre des outils étendus pour la gestion du cycle de vie des clusters, le profilage des performances et la surveillance en temps réel de l'exécution des tâches. Les utilisateurs peuvent déployer ces environnements sur diverses infrastructures, incluant le matériel local, les fournisseurs cloud, les systèmes conteneurisés et les clusters de calcul haute performance.

    Processes data tasks on individual compute nodes by connecting to a central scheduler and reporting completion status.

    Pythondasknumpypandas
    Voir sur GitHub↗13,746
  • aws/aws-cdkAvatar de aws

    aws/aws-cdk

    12,817Voir sur GitHub↗

    The AWS Cloud Development Kit is an infrastructure-as-code framework that enables developers to define and provision cloud resources using familiar programming languages. By utilizing construct-based synthesis, it translates high-level, object-oriented code into declarative templates, allowing for the automated management of complex cloud environments through a centralized, code-driven control plane. The framework distinguishes itself through its ability to model infrastructure as a dependency-aware resource graph, ensuring that components are provisioned and updated in the correct order. It

    Executes large-scale computational tasks by automatically provisioning and managing infrastructure.

    TypeScriptawscloud-infrastructurehacktoberfest
    Voir sur GitHub↗12,817
  • boto/boto3Avatar de boto

    boto/boto3

    9,834Voir sur GitHub↗

    Boto3 is the AWS SDK for Python, providing a programmatic interface for managing and automating AWS cloud infrastructure and services. It serves as a cloud management API client and resource manager for provisioning, configuring, and scaling virtual servers, databases, and storage. The library enables the implementation of infrastructure-as-code through declarative templates and scripts, allowing for the deployment of identical resource stacks across multiple accounts and geographic regions. It also provides a framework for coordinating distributed workflows, serverless functions, and contain

    Provides tools for executing and optimizing the distribution of large-scale non-interactive batch workloads.

    Pythonawsaws-sdkcloud
    Voir sur GitHub↗9,834
  • microsoft/ufoAvatar de microsoft

    microsoft/UFO

    9,017Voir sur GitHub↗

    UFO is a multi-device task orchestrator and LLM agent orchestration framework designed to decompose natural language requests into executable task graphs. It functions as a cross-platform UI automation tool capable of performing interactions on Windows and mobile devices while routing tasks to distributed agents based on their hardware and software capabilities. The system is distinguished by its RAG-enhanced agent architecture, which integrates external documentation and previous execution traces to improve decision-making. It employs a hybrid UI detection approach that combines computer vis

    Groups multiple speculative actions into single requests to optimize latency and reduce the number of model calls.

    Pythonagentautomationcopilot
    Voir sur GitHub↗9,017
  • techempower/frameworkbenchmarksAvatar de TechEmpower

    TechEmpower/FrameworkBenchmarks

    8,112Voir sur GitHub↗

    TechEmpower FrameworkBenchmarks is an open-source project that provides a standardized, reproducible suite for measuring and comparing the performance of web frameworks across many languages. At its core, it defines a set of common server-side tasks—such as JSON serialization, database queries, and server-side template rendering—and executes them uniformly against hundreds of framework implementations to produce comparable throughput and latency metrics. The project is built around a multi-language benchmark harness that automates the full test lifecycle, from dependency installation and serve

    Executes a suite of predefined HTTP workloads across multiple framework implementations to measure throughput and latency.

    C++benchmarkframeworkframeworkbenchmarks
    Voir sur GitHub↗8,112
  • automl/auto-sklearnAvatar de automl

    automl/auto-sklearn

    8,111Voir sur GitHub↗

    This is a scikit-learn automated machine learning framework designed to optimize model selection and hyperparameters. It functions as an automated model selector and hyperparameter optimization tool for classification and regression tasks, utilizing an automated ensemble builder to combine high-performing models for increased predictive accuracy. The system features a distributed search engine that uses Dask for parallel machine learning optimization across CPU cores or clusters. It implements a budget-based evaluation strategy through successive halving to prioritize promising model configur

    Runs predefined model training tasks in parallel across hardware to accelerate model discovery.

    Python
    Voir sur GitHub↗8,111
  • erikgrinaker/toydbAvatar de erikgrinaker

    erikgrinaker/toydb

    7,251Voir sur GitHub↗

    ToyDB is a distributed SQL database that provides a system for storing and querying data across multiple nodes. It focuses on maintaining strong consistency and fault tolerance through the implementation of a distributed consensus algorithm. The project distinguishes itself by supporting historical data versioning, enabling time-travel queries to retrieve the state of the database from a specific point in the past. It utilizes multi-version concurrency control to manage ACID transactions and ensure data integrity during concurrent operations. The system covers relational data modeling with t

    Executes predefined read, write, and transactional benchmarks to measure overall cluster performance.

    Rust
    Voir sur GitHub↗7,251
  • apache/openwhiskAvatar de apache

    apache/openwhisk

    6,779Voir sur GitHub↗

    OpenWhisk is a serverless cloud platform designed for deploying and executing stateless functions in response to API calls or events. It serves as a complete serverless stack, providing an API gateway for functions, a function-as-a-service runtime manager, and an event-driven workflow engine. The platform distinguishes itself through a polyglot execution model that supports multiple language runtimes and allows for the creation of custom runtimes using Docker containers. It enables complex logic through function orchestration and composition, allowing multiple functions to be chained into seq

    Links multiple functions together into sequential pipelines where the output of one serves as the input for the next.

    Scala
    Voir sur GitHub↗6,779
  • akopytov/sysbenchAvatar de akopytov

    akopytov/sysbench

    6,744Voir sur GitHub↗

    sysbench is a database and system benchmark tool used to measure the throughput and latency of database systems and hardware components. It functions as a multi-threaded workload generator and hardware performance profiler designed to determine how systems perform under heavy load. The project serves as a scriptable benchmark engine, allowing for the definition of custom performance scenarios through scripts. It simulates real-world traffic patterns by generating random data based on mathematical probability distributions, such as Zipfian, Gaussian, or Pareto. Capabilities cover database per

    Executes predefined computational tasks and database queries to isolate and measure the performance of specific hardware subsystems.

    C
    Voir sur GitHub↗6,744
  • stackstorm/st2Avatar de StackStorm

    StackStorm/st2

    6,487Voir sur GitHub↗

    StackStorm is an event-driven automation platform that watches for events from external systems and triggers workflows, actions, and remediation across infrastructure tools. At its core, it provides a workflow orchestration engine that chains multiple actions and conditional logic into reusable, multi-step workflows for complex automation tasks, alongside a rules engine that applies matching criteria to triggers and maps trigger payload data to action inputs for automated responses. The platform distinguishes itself through a ChatOps integration framework that enables executing commands and r

    Assembles multiple individual tasks into a reusable, ordered pipeline that runs as a single automated workflow.

    Pythonauto-remediationautomationchatops
    Voir sur GitHub↗6,487
  • zenml-io/zenmlAvatar de zenml-io

    zenml-io/zenml

    5,451Voir sur GitHub↗

    ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented

    Configures the server workload manager to support snapshot-backed deployment execution and automated pipeline re-runs from checkpoints.

    Pythonagentopsagentsai
    Voir sur GitHub↗5,451
  • aws/containers-roadmapAvatar de aws

    aws/containers-roadmap

    5,351Voir sur GitHub↗

    Ce projet fournit des roadmaps stratégiques et des guides détaillant l'évolution et les patterns de déploiement des services managés d'orchestration de conteneurs et de sécurité. Il sert de document de suivi public pour les fonctionnalités à venir et les priorités de développement pour EKS, ECS, ECR et Fargate. La ressource inclut un guide d'orchestration de conteneurs cloud et une stratégie Kubernetes et ECS, décrivant le développement de services Kubernetes managés et d'orchestration propriétaire pour l'infrastructure cloud. Il fournit également un plan de sécurité et de monitoring axé sur la détection d'activités malveillantes et le suivi de la santé des workloads. Le matériel couvre un large éventail de capacités d'infrastructure, incluant le provisionnement de ressources, le scaling automatique de calcul et de tâches, et la gestion d'images de conteneurs. Il aborde le réseau et la gestion du trafic via l'équilibrage de charge et l'optimisation de la densité des pods, ainsi que l'observabilité via le routage des logs et le suivi des performances.

    Outlines the execution of non-interactive batch jobs and stateless applications across managed infrastructure.

    Shellawscontainersecr
    Voir sur GitHub↗5,351
  • kubernetes/websiteAvatar de kubernetes

    kubernetes/website

    5,281Voir sur GitHub↗

    Ce projet est le site web officiel de documentation de Kubernetes, servant de ressource technique complète pour la gestion d'applications conteneurisées. Il fonctionne comme un portail de documentation technique open-source qui fournit des guides, des tutoriels et des matériaux de référence pour les logiciels de systèmes distribués. Le site est construit en utilisant un générateur de site statique avec une architecture de template basée sur des composants pour maintenir des modèles de design cohérents. Il dispose d'un générateur de documentation OpenAPI qui analyse les spécifications techniques pour construire et mettre à jour automatiquement les pages de référence d'API structurées. Pour soutenir une audience mondiale, il emploie un routage de contenu conscient de l'internationalisation pour gérer les versions localisées des manuels. Le workflow de développement inclut un serveur à rechargement à chaud pour prévisualiser les changements du site et un rendu de langue ciblé pour accélérer les temps de build. Le projet couvre un large éventail de domaines techniques, incluant l'orchestration de cluster, la configuration réseau et la gestion des ressources.

    Executes non-interactive background jobs by ensuring failed containers are replaced until completion.

    HTML
    Voir sur GitHub↗5,281
  • bram2w/baserowAvatar de bram2w

    bram2w/baserow

    5,085Voir sur GitHub↗

    Baserow est une base de données relationnelle no-code et un constructeur d'applications qui permet aux utilisateurs de créer des tables de données structurées et des outils métier via une interface visuelle. Il fonctionne comme un backend de données API REST headless et un espace de travail de données auto-hébergé, fournissant une plateforme pour gérer des bases de données collaboratives tout en conservant un contrôle total sur la résidence des données. La plateforme intègre des modèles de langage étendus pour servir de plateforme de données alimentée par LLM, capable de générer des structures de base de données, du contenu d'enregistrement et des flux de travail techniques à partir du langage naturel. Elle agit également comme un serveur de protocole de contexte de modèle (Model Context Protocol), permettant aux agents IA distants d'interagir avec des enregistrements de base de données structurés par programmation. Au-delà de ses capacités fondamentales de base de données, le projet fournit des outils pour construire des portails externes de marque, des applications métier internes et des tableaux de bord interactifs. Il inclut un moteur d'automatisation piloté par les événements pour l'automatisation des processus métier et prend en charge une large gamme d'intégrations API, incluant les webhooks, le streaming d'événements WebSocket et la synchronisation de données tierces. Le logiciel est conçu pour l'hébergement sur infrastructure privée et le déploiement conteneurisé afin d'assurer la souveraineté et la sécurité des données.

    Chains complex actions and notifications based on database events to automate repetitive tasks

    Python
    Voir sur GitHub↗5,085
  • runhey/onmyojiautoscriptAvatar de runhey

    runhey/OnmyojiAutoScript

    4,371Voir sur GitHub↗

    OnmyojiAutoScript est un outil d'automatisation de jeu Android basé sur ADB qui utilise la reconnaissance d'image pour automatiser les routines quotidiennes et le farming de ressources. Il fonctionne comme un bot de vision par ordinateur et un contrôleur d'émulateur, coordonnant l'exécution simultanée de tâches sur plusieurs profils utilisateur et ports. Le système dispose d'un optimiseur de ressources de jeu qui utilise des modèles d'efficacité pour distribuer intelligemment les objets et actifs en jeu entre les personnages. Pour contourner la détection automatisée, il emploie un simulateur d'entrée anti-détection qui imite les modèles d'interaction humaine par des comportements variables de clics et de balayages. Le logiciel couvre une large gamme de logiques d'automatisation, y compris l'exécution pilotée par événements, la priorisation des actions cibles et la planification de séquences de tâches. Ses capacités opérationnelles s'étendent à l'automatisation des rotations de personnages, du farming de donjons, des objectifs hebdomadaires et de la coordination de guilde. La surveillance et la maintenance sont prises en charge par l'exportation de journaux de diagnostic, la détection de blocage de script et une interface graphique pour gérer les actifs de tâches et les paramètres de reconnaissance d'image.

    Triggers automation steps based on the detection of visual cues instead of fixed time delays.

    Pythonoasonmyojiscript
    Voir sur GitHub↗4,371
  • rogandawes/p4wnp1_aloaAvatar de RoganDawes

    RoganDawes/P4wnP1_aloa

    4,376Voir sur GitHub↗

    P4wnP1_aloa est un framework de sécurité physique conçu pour transformer un Raspberry Pi en un appareil dédié au red teaming et aux tests d'intrusion. Il fonctionne comme un outil d'émulation de gadget USB, un utilitaire d'usurpation de réseau sans fil et un contrôleur d'automatisation GPIO. Le système permet l'émulation de périphériques USB composites, tels que des claviers, des souris et des périphériques de stockage, sans nécessiter de redémarrage. Il fournit en outre des capacités pour diffuser de fausses balises de point d'accès et des réponses usurpées pour émuler divers environnements de réseau sans fil. Le framework inclut une interface de gestion distante accessible via une application web et une interface en ligne de commande. Il dispose d'un système de déclenchement piloté par les événements pour exécuter des scripts basés sur les changements d'état matériel et l'entrée GPIO, ainsi qu'un système de configuration basé sur des modèles pour gérer les paramètres des sous-systèmes. Le projet fournit des outils pour l'automatisation des entrées, la configuration de l'interface réseau et la création d'interfaces réseau basées sur Bluetooth pour l'accès distant.

    Coordinates multiple triggers using group channels to ensure actions execute only after a specific sequence of events.

    JavaScript
    Voir sur GitHub↗4,376
  • iree-org/ireeAvatar de iree-org

    iree-org/iree

    3,819Voir sur GitHub↗

    IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis

    Runs recorded sequences of HAL operations on matching devices to reproduce specific hardware behaviors.

    C++compilercudajax
    Voir sur GitHub↗3,819
Préc.12Suivant
  1. Home
  2. DevOps & Infrastructure
  3. Container Orchestration
  4. Workload Scheduling and Scaling
  5. Batch Workload Execution

Explorer les sous-tags

  • Action Chaining1 sous-tagChaining multiple predictable actions into single requests to optimize latency and cost. **Distinct from Batch Workload Execution:** Distinct from Batch Workload Execution: focuses on chaining model-driven actions rather than containerized batch jobs.
  • Database Workload SimulationExecution of synthetic database read and write patterns to measure cluster performance. **Distinct from Batch Workload Execution:** Specific to database stress testing and performance measurement, unlike general container batch workloads
  • Function SequencesSequential chaining of functions where the output of one becomes the input of the next. **Distinct from Action Chaining:** Focuses on the logical flow of data between general-purpose functions rather than optimizing latency for model-driven actions.
  • HAL Workload ReplaysExecution of recorded Hardware Abstraction Layer operations to reproduce and debug hardware behaviors. **Distinct from Batch Workload Execution:** Specifically targets the reproduction of HAL-level operations on hardware, unlike general batch container workloads.
  • HTTP Workload ExecutionsExecution of predefined HTTP workloads to measure server throughput and latency. **Distinct from Batch Workload Execution:** Distinct from Batch Workload Execution: focuses on HTTP-based workloads rather than general container batch tasks.