21 dépôts
Tools for executing non-interactive, task-based container workloads that run to completion.
Explore 21 awesome GitHub repositories matching devops & infrastructure · Batch Workload Execution. Refine with filters or upvote what's useful.
Kubernetes is a distributed container orchestration platform that automates the deployment, scaling, and management of containerized applications across clusters of computing nodes. It functions as a declarative infrastructure controller, utilizing a control loop architecture that continuously monitors the current system state against user-defined configurations to ensure desired operational outcomes. The system relies on a centralized API-driven interface and a replicated key-value store to maintain a consistent source of truth for all cluster objects. The platform distinguishes itself throu
Supports non-interactive, task-based workloads by automatically managing container lifecycles until completion.
Prefect is a workflow orchestration platform designed to define, schedule, and monitor complex data pipelines as Python code. It functions as a container-native engine that wraps individual tasks in isolated environments, ensuring consistent dependencies and resource allocation across diverse infrastructure. By utilizing a state-machine-based orchestration model, the system tracks execution progress through discrete transitions and persistent event logs to maintain reliable and observable task processing. The platform distinguishes itself through a decoupled worker-API architecture, which sep
Runs workflow tasks as isolated jobs within managed serverless container environments.
Claude Quickstarts is a development framework and collection of reference implementations designed for building autonomous agents. It provides the foundational patterns necessary to orchestrate multi-agent workflows, enabling models to perform complex, multi-step tasks across software engineering, customer support, and computer-use domains. The platform distinguishes itself through specialized capabilities for desktop and browser automation, allowing agents to interact with graphical interfaces by capturing visual context and executing precise mouse and keyboard inputs. It includes robust inf
Chains multiple predictable actions into a single request to reduce latency and costs for workflows.
Dask est un framework de calcul parallèle et un planificateur de tâches distribué conçu pour mettre à l'échelle les flux de travail de science des données Python, des machines uniques aux grands clusters. Il fonctionne comme un gestionnaire de ressources de cluster qui orchestre la logique computationnelle en représentant les tâches et leurs dépendances sous forme de graphes acycliques dirigés. Cette architecture permet au système d'automatiser la distribution des charges de travail sur le matériel disponible tout en gérant des exigences d'exécution complexes. Le projet se distingue par un moteur d'évaluation paresseuse qui diffère les opérations sur les données jusqu'à ce qu'elles soient explicitement demandées, permettant une optimisation globale du graphe et une allocation efficace des ressources. Il intègre le déversement de données conscient de la mémoire pour éviter les plantages du système lors du traitement de jeux de données dépassant la mémoire disponible, et il utilise la fusion de graphes de tâches pour combiner des séquences d'opérations en étapes d'exécution uniques, minimisant la surcharge de planification et la communication entre nœuds. La plateforme fournit une surface de capacités complète pour l'analyse de données à grande échelle, incluant le support pour l'apprentissage automatique distribué, l'intégration du calcul haute performance et le traitement de données parallèle. Elle offre des outils étendus pour la gestion du cycle de vie des clusters, le profilage des performances et la surveillance en temps réel de l'exécution des tâches. Les utilisateurs peuvent déployer ces environnements sur diverses infrastructures, incluant le matériel local, les fournisseurs cloud, les systèmes conteneurisés et les clusters de calcul haute performance.
Processes data tasks on individual compute nodes by connecting to a central scheduler and reporting completion status.
The AWS Cloud Development Kit is an infrastructure-as-code framework that enables developers to define and provision cloud resources using familiar programming languages. By utilizing construct-based synthesis, it translates high-level, object-oriented code into declarative templates, allowing for the automated management of complex cloud environments through a centralized, code-driven control plane. The framework distinguishes itself through its ability to model infrastructure as a dependency-aware resource graph, ensuring that components are provisioned and updated in the correct order. It
Executes large-scale computational tasks by automatically provisioning and managing infrastructure.
Boto3 is the AWS SDK for Python, providing a programmatic interface for managing and automating AWS cloud infrastructure and services. It serves as a cloud management API client and resource manager for provisioning, configuring, and scaling virtual servers, databases, and storage. The library enables the implementation of infrastructure-as-code through declarative templates and scripts, allowing for the deployment of identical resource stacks across multiple accounts and geographic regions. It also provides a framework for coordinating distributed workflows, serverless functions, and contain
Provides tools for executing and optimizing the distribution of large-scale non-interactive batch workloads.
UFO is a multi-device task orchestrator and LLM agent orchestration framework designed to decompose natural language requests into executable task graphs. It functions as a cross-platform UI automation tool capable of performing interactions on Windows and mobile devices while routing tasks to distributed agents based on their hardware and software capabilities. The system is distinguished by its RAG-enhanced agent architecture, which integrates external documentation and previous execution traces to improve decision-making. It employs a hybrid UI detection approach that combines computer vis
Groups multiple speculative actions into single requests to optimize latency and reduce the number of model calls.
TechEmpower FrameworkBenchmarks is an open-source project that provides a standardized, reproducible suite for measuring and comparing the performance of web frameworks across many languages. At its core, it defines a set of common server-side tasks—such as JSON serialization, database queries, and server-side template rendering—and executes them uniformly against hundreds of framework implementations to produce comparable throughput and latency metrics. The project is built around a multi-language benchmark harness that automates the full test lifecycle, from dependency installation and serve
Executes a suite of predefined HTTP workloads across multiple framework implementations to measure throughput and latency.
This is a scikit-learn automated machine learning framework designed to optimize model selection and hyperparameters. It functions as an automated model selector and hyperparameter optimization tool for classification and regression tasks, utilizing an automated ensemble builder to combine high-performing models for increased predictive accuracy. The system features a distributed search engine that uses Dask for parallel machine learning optimization across CPU cores or clusters. It implements a budget-based evaluation strategy through successive halving to prioritize promising model configur
Runs predefined model training tasks in parallel across hardware to accelerate model discovery.
ToyDB is a distributed SQL database that provides a system for storing and querying data across multiple nodes. It focuses on maintaining strong consistency and fault tolerance through the implementation of a distributed consensus algorithm. The project distinguishes itself by supporting historical data versioning, enabling time-travel queries to retrieve the state of the database from a specific point in the past. It utilizes multi-version concurrency control to manage ACID transactions and ensure data integrity during concurrent operations. The system covers relational data modeling with t
Executes predefined read, write, and transactional benchmarks to measure overall cluster performance.
OpenWhisk is a serverless cloud platform designed for deploying and executing stateless functions in response to API calls or events. It serves as a complete serverless stack, providing an API gateway for functions, a function-as-a-service runtime manager, and an event-driven workflow engine. The platform distinguishes itself through a polyglot execution model that supports multiple language runtimes and allows for the creation of custom runtimes using Docker containers. It enables complex logic through function orchestration and composition, allowing multiple functions to be chained into seq
Links multiple functions together into sequential pipelines where the output of one serves as the input for the next.
sysbench is a database and system benchmark tool used to measure the throughput and latency of database systems and hardware components. It functions as a multi-threaded workload generator and hardware performance profiler designed to determine how systems perform under heavy load. The project serves as a scriptable benchmark engine, allowing for the definition of custom performance scenarios through scripts. It simulates real-world traffic patterns by generating random data based on mathematical probability distributions, such as Zipfian, Gaussian, or Pareto. Capabilities cover database per
Executes predefined computational tasks and database queries to isolate and measure the performance of specific hardware subsystems.
StackStorm is an event-driven automation platform that watches for events from external systems and triggers workflows, actions, and remediation across infrastructure tools. At its core, it provides a workflow orchestration engine that chains multiple actions and conditional logic into reusable, multi-step workflows for complex automation tasks, alongside a rules engine that applies matching criteria to triggers and maps trigger payload data to action inputs for automated responses. The platform distinguishes itself through a ChatOps integration framework that enables executing commands and r
Assembles multiple individual tasks into a reusable, ordered pipeline that runs as a single automated workflow.
ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented
Configures the server workload manager to support snapshot-backed deployment execution and automated pipeline re-runs from checkpoints.
Ce projet fournit des roadmaps stratégiques et des guides détaillant l'évolution et les patterns de déploiement des services managés d'orchestration de conteneurs et de sécurité. Il sert de document de suivi public pour les fonctionnalités à venir et les priorités de développement pour EKS, ECS, ECR et Fargate. La ressource inclut un guide d'orchestration de conteneurs cloud et une stratégie Kubernetes et ECS, décrivant le développement de services Kubernetes managés et d'orchestration propriétaire pour l'infrastructure cloud. Il fournit également un plan de sécurité et de monitoring axé sur la détection d'activités malveillantes et le suivi de la santé des workloads. Le matériel couvre un large éventail de capacités d'infrastructure, incluant le provisionnement de ressources, le scaling automatique de calcul et de tâches, et la gestion d'images de conteneurs. Il aborde le réseau et la gestion du trafic via l'équilibrage de charge et l'optimisation de la densité des pods, ainsi que l'observabilité via le routage des logs et le suivi des performances.
Outlines the execution of non-interactive batch jobs and stateless applications across managed infrastructure.
Ce projet est le site web officiel de documentation de Kubernetes, servant de ressource technique complète pour la gestion d'applications conteneurisées. Il fonctionne comme un portail de documentation technique open-source qui fournit des guides, des tutoriels et des matériaux de référence pour les logiciels de systèmes distribués. Le site est construit en utilisant un générateur de site statique avec une architecture de template basée sur des composants pour maintenir des modèles de design cohérents. Il dispose d'un générateur de documentation OpenAPI qui analyse les spécifications techniques pour construire et mettre à jour automatiquement les pages de référence d'API structurées. Pour soutenir une audience mondiale, il emploie un routage de contenu conscient de l'internationalisation pour gérer les versions localisées des manuels. Le workflow de développement inclut un serveur à rechargement à chaud pour prévisualiser les changements du site et un rendu de langue ciblé pour accélérer les temps de build. Le projet couvre un large éventail de domaines techniques, incluant l'orchestration de cluster, la configuration réseau et la gestion des ressources.
Executes non-interactive background jobs by ensuring failed containers are replaced until completion.
Baserow est une base de données relationnelle no-code et un constructeur d'applications qui permet aux utilisateurs de créer des tables de données structurées et des outils métier via une interface visuelle. Il fonctionne comme un backend de données API REST headless et un espace de travail de données auto-hébergé, fournissant une plateforme pour gérer des bases de données collaboratives tout en conservant un contrôle total sur la résidence des données. La plateforme intègre des modèles de langage étendus pour servir de plateforme de données alimentée par LLM, capable de générer des structures de base de données, du contenu d'enregistrement et des flux de travail techniques à partir du langage naturel. Elle agit également comme un serveur de protocole de contexte de modèle (Model Context Protocol), permettant aux agents IA distants d'interagir avec des enregistrements de base de données structurés par programmation. Au-delà de ses capacités fondamentales de base de données, le projet fournit des outils pour construire des portails externes de marque, des applications métier internes et des tableaux de bord interactifs. Il inclut un moteur d'automatisation piloté par les événements pour l'automatisation des processus métier et prend en charge une large gamme d'intégrations API, incluant les webhooks, le streaming d'événements WebSocket et la synchronisation de données tierces. Le logiciel est conçu pour l'hébergement sur infrastructure privée et le déploiement conteneurisé afin d'assurer la souveraineté et la sécurité des données.
Chains complex actions and notifications based on database events to automate repetitive tasks
OnmyojiAutoScript est un outil d'automatisation de jeu Android basé sur ADB qui utilise la reconnaissance d'image pour automatiser les routines quotidiennes et le farming de ressources. Il fonctionne comme un bot de vision par ordinateur et un contrôleur d'émulateur, coordonnant l'exécution simultanée de tâches sur plusieurs profils utilisateur et ports. Le système dispose d'un optimiseur de ressources de jeu qui utilise des modèles d'efficacité pour distribuer intelligemment les objets et actifs en jeu entre les personnages. Pour contourner la détection automatisée, il emploie un simulateur d'entrée anti-détection qui imite les modèles d'interaction humaine par des comportements variables de clics et de balayages. Le logiciel couvre une large gamme de logiques d'automatisation, y compris l'exécution pilotée par événements, la priorisation des actions cibles et la planification de séquences de tâches. Ses capacités opérationnelles s'étendent à l'automatisation des rotations de personnages, du farming de donjons, des objectifs hebdomadaires et de la coordination de guilde. La surveillance et la maintenance sont prises en charge par l'exportation de journaux de diagnostic, la détection de blocage de script et une interface graphique pour gérer les actifs de tâches et les paramètres de reconnaissance d'image.
Triggers automation steps based on the detection of visual cues instead of fixed time delays.
P4wnP1_aloa est un framework de sécurité physique conçu pour transformer un Raspberry Pi en un appareil dédié au red teaming et aux tests d'intrusion. Il fonctionne comme un outil d'émulation de gadget USB, un utilitaire d'usurpation de réseau sans fil et un contrôleur d'automatisation GPIO. Le système permet l'émulation de périphériques USB composites, tels que des claviers, des souris et des périphériques de stockage, sans nécessiter de redémarrage. Il fournit en outre des capacités pour diffuser de fausses balises de point d'accès et des réponses usurpées pour émuler divers environnements de réseau sans fil. Le framework inclut une interface de gestion distante accessible via une application web et une interface en ligne de commande. Il dispose d'un système de déclenchement piloté par les événements pour exécuter des scripts basés sur les changements d'état matériel et l'entrée GPIO, ainsi qu'un système de configuration basé sur des modèles pour gérer les paramètres des sous-systèmes. Le projet fournit des outils pour l'automatisation des entrées, la configuration de l'interface réseau et la création d'interfaces réseau basées sur Bluetooth pour l'accès distant.
Coordinates multiple triggers using group channels to ensure actions execute only after a specific sequence of events.
IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis
Runs recorded sequences of HAL operations on matching devices to reproduce specific hardware behaviors.