21 repository-uri
Tools for executing non-interactive, task-based container workloads that run to completion.
Explore 21 awesome GitHub repositories matching devops & infrastructure · Batch Workload Execution. Refine with filters or upvote what's useful.
Kubernetes is a distributed container orchestration platform that automates the deployment, scaling, and management of containerized applications across clusters of computing nodes. It functions as a declarative infrastructure controller, utilizing a control loop architecture that continuously monitors the current system state against user-defined configurations to ensure desired operational outcomes. The system relies on a centralized API-driven interface and a replicated key-value store to maintain a consistent source of truth for all cluster objects. The platform distinguishes itself throu
Supports non-interactive, task-based workloads by automatically managing container lifecycles until completion.
Prefect is a workflow orchestration platform designed to define, schedule, and monitor complex data pipelines as Python code. It functions as a container-native engine that wraps individual tasks in isolated environments, ensuring consistent dependencies and resource allocation across diverse infrastructure. By utilizing a state-machine-based orchestration model, the system tracks execution progress through discrete transitions and persistent event logs to maintain reliable and observable task processing. The platform distinguishes itself through a decoupled worker-API architecture, which sep
Runs workflow tasks as isolated jobs within managed serverless container environments.
Claude Quickstarts is a development framework and collection of reference implementations designed for building autonomous agents. It provides the foundational patterns necessary to orchestrate multi-agent workflows, enabling models to perform complex, multi-step tasks across software engineering, customer support, and computer-use domains. The platform distinguishes itself through specialized capabilities for desktop and browser automation, allowing agents to interact with graphical interfaces by capturing visual context and executing precise mouse and keyboard inputs. It includes robust inf
Chains multiple predictable actions into a single request to reduce latency and costs for workflows.
Dask este un framework de calcul paralel și un scheduler de sarcini distribuit conceput pentru a scala fluxurile de lucru de știința datelor în Python de la mașini individuale la clustere mari. Acesta funcționează ca un manager de resurse de cluster care orchestrează logica computațională prin reprezentarea sarcinilor și a dependențelor acestora sub formă de grafuri aciclice direcționate. Această arhitectură permite sistemului să automatizeze distribuția sarcinilor de lucru pe hardware-ul disponibil, gestionând în același timp cerințe complexe de execuție. Proiectul se distinge printr-un motor de evaluare leneșă (lazy) care amână operațiunile pe date până când sunt solicitate explicit, permițând optimizarea globală a grafului și alocarea eficientă a resurselor. Acesta încorporează „spilling” de date conștient de memorie pentru a preveni blocarea sistemului la procesarea seturilor de date care depășesc memoria disponibilă și utilizează fuziunea grafului de sarcini pentru a combina secvențe de operațiuni în pași de execuție unici, minimizând overhead-ul de programare și comunicarea între noduri. Platforma oferă o suprafață cuprinzătoare de capabilități pentru analiza datelor la scară largă, inclusiv suport pentru învățare automată distribuită, integrare cu calcul de înaltă performanță și procesare paralelă a datelor. Oferă instrumente extinse pentru gestionarea ciclului de viață al clusterului, profilarea performanței și monitorizarea în timp real a execuției sarcinilor. Utilizatorii pot implementa aceste medii pe diverse infrastructuri, inclusiv hardware local, furnizori de cloud, sisteme containerizate și clustere de calcul de înaltă performanță.
Processes data tasks on individual compute nodes by connecting to a central scheduler and reporting completion status.
The AWS Cloud Development Kit is an infrastructure-as-code framework that enables developers to define and provision cloud resources using familiar programming languages. By utilizing construct-based synthesis, it translates high-level, object-oriented code into declarative templates, allowing for the automated management of complex cloud environments through a centralized, code-driven control plane. The framework distinguishes itself through its ability to model infrastructure as a dependency-aware resource graph, ensuring that components are provisioned and updated in the correct order. It
Executes large-scale computational tasks by automatically provisioning and managing infrastructure.
Boto3 is the AWS SDK for Python, providing a programmatic interface for managing and automating AWS cloud infrastructure and services. It serves as a cloud management API client and resource manager for provisioning, configuring, and scaling virtual servers, databases, and storage. The library enables the implementation of infrastructure-as-code through declarative templates and scripts, allowing for the deployment of identical resource stacks across multiple accounts and geographic regions. It also provides a framework for coordinating distributed workflows, serverless functions, and contain
Provides tools for executing and optimizing the distribution of large-scale non-interactive batch workloads.
UFO is a multi-device task orchestrator and LLM agent orchestration framework designed to decompose natural language requests into executable task graphs. It functions as a cross-platform UI automation tool capable of performing interactions on Windows and mobile devices while routing tasks to distributed agents based on their hardware and software capabilities. The system is distinguished by its RAG-enhanced agent architecture, which integrates external documentation and previous execution traces to improve decision-making. It employs a hybrid UI detection approach that combines computer vis
Groups multiple speculative actions into single requests to optimize latency and reduce the number of model calls.
TechEmpower FrameworkBenchmarks is an open-source project that provides a standardized, reproducible suite for measuring and comparing the performance of web frameworks across many languages. At its core, it defines a set of common server-side tasks—such as JSON serialization, database queries, and server-side template rendering—and executes them uniformly against hundreds of framework implementations to produce comparable throughput and latency metrics. The project is built around a multi-language benchmark harness that automates the full test lifecycle, from dependency installation and serve
Executes a suite of predefined HTTP workloads across multiple framework implementations to measure throughput and latency.
This is a scikit-learn automated machine learning framework designed to optimize model selection and hyperparameters. It functions as an automated model selector and hyperparameter optimization tool for classification and regression tasks, utilizing an automated ensemble builder to combine high-performing models for increased predictive accuracy. The system features a distributed search engine that uses Dask for parallel machine learning optimization across CPU cores or clusters. It implements a budget-based evaluation strategy through successive halving to prioritize promising model configur
Runs predefined model training tasks in parallel across hardware to accelerate model discovery.
ToyDB is a distributed SQL database that provides a system for storing and querying data across multiple nodes. It focuses on maintaining strong consistency and fault tolerance through the implementation of a distributed consensus algorithm. The project distinguishes itself by supporting historical data versioning, enabling time-travel queries to retrieve the state of the database from a specific point in the past. It utilizes multi-version concurrency control to manage ACID transactions and ensure data integrity during concurrent operations. The system covers relational data modeling with t
Executes predefined read, write, and transactional benchmarks to measure overall cluster performance.
OpenWhisk is a serverless cloud platform designed for deploying and executing stateless functions in response to API calls or events. It serves as a complete serverless stack, providing an API gateway for functions, a function-as-a-service runtime manager, and an event-driven workflow engine. The platform distinguishes itself through a polyglot execution model that supports multiple language runtimes and allows for the creation of custom runtimes using Docker containers. It enables complex logic through function orchestration and composition, allowing multiple functions to be chained into seq
Links multiple functions together into sequential pipelines where the output of one serves as the input for the next.
sysbench is a database and system benchmark tool used to measure the throughput and latency of database systems and hardware components. It functions as a multi-threaded workload generator and hardware performance profiler designed to determine how systems perform under heavy load. The project serves as a scriptable benchmark engine, allowing for the definition of custom performance scenarios through scripts. It simulates real-world traffic patterns by generating random data based on mathematical probability distributions, such as Zipfian, Gaussian, or Pareto. Capabilities cover database per
Executes predefined computational tasks and database queries to isolate and measure the performance of specific hardware subsystems.
StackStorm is an event-driven automation platform that watches for events from external systems and triggers workflows, actions, and remediation across infrastructure tools. At its core, it provides a workflow orchestration engine that chains multiple actions and conditional logic into reusable, multi-step workflows for complex automation tasks, alongside a rules engine that applies matching criteria to triggers and maps trigger payload data to action inputs for automated responses. The platform distinguishes itself through a ChatOps integration framework that enables executing commands and r
Assembles multiple individual tasks into a reusable, ordered pipeline that runs as a single automated workflow.
ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented
Configures the server workload manager to support snapshot-backed deployment execution and automated pipeline re-runs from checkpoints.
Acest proiect oferă roadmap-uri strategice și ghiduri care detaliază evoluția și tiparele de deployment ale serviciilor gestionate de orchestrare a containerelor și securitate. Servește drept document public de urmărire pentru funcționalitățile viitoare și prioritățile de dezvoltare pentru EKS, ECS, ECR și Fargate. Resursa include un ghid de orchestrare a containerelor în cloud și o strategie pentru Kubernetes și ECS, conturând dezvoltarea serviciilor gestionate de Kubernetes și a serviciilor de orchestrare proprietare pentru infrastructura cloud. De asemenea, oferă un plan de securitate și monitorizare axat pe scanarea activităților malițioase și urmărirea sănătății workload-urilor. Materialul acoperă o gamă largă de capabilități de infrastructură, inclusiv provizionarea resurselor, scalarea automată a resurselor de calcul și a sarcinilor, și gestionarea imaginilor de containere. Abordează rețelistica și gestionarea traficului prin load balancing și optimizarea densității pod-urilor, precum și observabilitatea prin rutarea log-urilor și urmărirea performanței.
Outlines the execution of non-interactive batch jobs and stateless applications across managed infrastructure.
Acest proiect este site-ul oficial de documentație Kubernetes, servind drept resursă tehnică cuprinzătoare pentru gestionarea aplicațiilor containerizate. Funcționează ca un portal de documentație tehnică open-source care oferă ghiduri, tutoriale și materiale de referință pentru software-ul de sisteme distribuite. Site-ul este construit folosind un generator de site-uri statice cu o arhitectură de template-uri bazată pe componente pentru a menține tipare de design consistente. Dispune de un generator de documentație OpenAPI care parsează specificațiile tehnice pentru a construi și actualiza automat pagini de referință API structurate. Pentru a susține o audiență globală, utilizează rutarea conținutului conștientă de internaționalizare pentru a gestiona versiunile localizate ale manualelor. Fluxul de lucru de dezvoltare include un server cu hot-reloading pentru previzualizarea modificărilor site-ului și randarea țintită a limbajului pentru a accelera timpii de build. Proiectul acoperă o gamă largă de domenii tehnice, inclusiv orchestrarea clusterelor, configurarea rețelei și gestionarea resurselor.
Executes non-interactive background jobs by ensuring failed containers are replaced until completion.
Baserow este o bază de date relațională no-code și un constructor de aplicații care permite utilizatorilor să creeze tabele de date structurate și instrumente de business printr-o interfață vizuală. Funcționează ca un backend de date REST API headless și un spațiu de lucru de date self-hosted, oferind o platformă pentru gestionarea bazelor de date colaborative, menținând în același timp controlul deplin asupra rezidenței datelor. Platforma integrează modele de limbaj mari pentru a servi ca o platformă de date bazată pe LLM, capabilă să genereze structuri de baze de date, conținut de înregistrări și fluxuri de lucru tehnice din limbaj natural. De asemenea, acționează ca un server Model Context Protocol, permițând agenților AI de la distanță să interacționeze programatic cu înregistrările structurate din baza de date. Dincolo de capabilitățile sale de bază de bază de date, proiectul oferă instrumente pentru construirea de portaluri externe de marcă, aplicații de business interne și tablouri de bord interactive. Include un motor de automatizare bazat pe evenimente pentru automatizarea proceselor de business și suportă o gamă largă de integrări API, inclusiv webhook-uri, streaming de evenimente WebSocket și sincronizarea datelor cu terțe părți. Software-ul este conceput pentru găzduirea pe infrastructură privată și deployment containerizat pentru a asigura suveranitatea și securitatea datelor.
Chains complex actions and notifications based on database events to automate repetitive tasks
OnmyojiAutoScript este un instrument de automatizare pentru jocuri Android bazat pe ADB, care utilizează recunoașterea imaginilor pentru a automatiza rutinele zilnice și farming-ul de resurse. Acesta funcționează ca un bot de viziune computerizată și controler de emulator, coordonând execuția simultană a sarcinilor pe mai multe profiluri de utilizator și porturi. Sistemul dispune de un optimizator de resurse de joc care utilizează modele de eficiență pentru a distribui inteligent obiectele și activele din joc între personaje. Pentru a evita detectarea automată, folosește un simulator de input anti-detecție care imită tiparele de interacțiune umană prin comportamente variabile de click și swipe. Software-ul acoperă o gamă largă de logică de automatizare, inclusiv execuția bazată pe evenimente, prioritizarea acțiunilor țintă și programarea secvențelor de sarcini. Capabilitățile sale operaționale se extind la automatizarea rotațiilor de personaje, farming-ul în dungeon-uri, obiectivele săptămânale și coordonarea în cadrul breslelor. Monitorizarea și întreținerea sunt susținute prin exporturi de jurnale de diagnostic, detectarea blocajelor scripturilor și o interfață grafică pentru gestionarea activelor sarcinilor și a parametrilor de recunoaștere a imaginilor.
Triggers automation steps based on the detection of visual cues instead of fixed time delays.
P4wnP1_aloa este un framework de securitate fizică conceput pentru a transforma un Raspberry Pi într-un dispozitiv dedicat pentru red teaming și testare de penetrare. Funcționează ca un instrument de emulare a gadget-urilor USB, un utilitar de spoofing pentru rețele wireless și un controler de automatizare GPIO. Sistemul permite emularea perifericelor USB compozite, cum ar fi tastaturi, mouse-uri și dispozitive de stocare, fără a necesita o repornire. Oferă, de asemenea, capabilități pentru difuzarea de beacon-uri false de puncte de acces și răspunsuri spoofed pentru a emula diverse medii de rețea wireless. Framework-ul include o interfață de management la distanță accesibilă printr-o aplicație web și o interfață în linie de comandă. Dispune de un sistem de declanșare bazat pe evenimente pentru executarea scripturilor pe baza schimbărilor de stare hardware și a input-ului GPIO, precum și un sistem de configurare bazat pe template-uri pentru gestionarea setărilor subsistemelor. Proiectul oferă instrumente pentru automatizarea input-ului, configurarea interfeței de rețea și crearea de interfețe de rețea bazate pe Bluetooth pentru acces la distanță.
Coordinates multiple triggers using group channels to ensure actions execute only after a specific sequence of events.
IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis
Runs recorded sequences of HAL operations on matching devices to reproduce specific hardware behaviors.