Awesome GitHub RepositoriesCloud Infrastructure Cost Optimization

Azure Docs is the official technical documentation repository for Microsoft Azure, the cloud computing platform. It provides comprehensive guidance on the full spectrum of Azure services, covering everything from core infrastructure components like virtual machines, Kubernetes clusters, and serverless computing to platform services for AI, machine learning, data analytics, and storage. The documentation details how to provision, manage, and govern cloud resources at scale, including policy enforcement, identity management, and cost optimization. The documentation distinguishes Azure through i

AutoMQ is a cloud-native streaming platform and Kafka-compatible message broker. It implements the Kafka protocol to provide integration with existing clients and ecosystems while functioning as a message queue that persists data directly to cloud object storage. The system decouples compute from storage, allowing processing power and storage capacity to scale independently. It utilizes a shared-log architecture and object-storage-based persistence to remove dependencies on local disks, which reduces operational costs and eliminates manual disk management. The platform includes mechanisms fo

Boto3 is the AWS SDK for Python, providing a programmatic interface for managing and automating AWS cloud infrastructure and services. It serves as a cloud management API client and resource manager for provisioning, configuring, and scaling virtual servers, databases, and storage. The library enables the implementation of infrastructure-as-code through declarative templates and scripts, allowing for the deployment of identical resource stacks across multiple accounts and geographic regions. It also provides a framework for coordinating distributed workflows, serverless functions, and contain

The Byte Book is an open-source book that covers cloud-native infrastructure, focusing on kernel networking, Kubernetes, service meshes, and containers. It serves as a technical reference for designing stable and cost-effective infrastructure, combining DevOps workflows and site reliability engineering principles. The book provides a deep dive into Kubernetes networking, including CNI, service mesh integration, and container network interfaces for production clusters. It also covers container runtime operations, service mesh architecture for observability and traffic management, and Linux ker

Cortex is a Kubernetes-based machine learning infrastructure platform designed for deploying, scaling, and managing models and workloads. It functions as a serverless inference engine and GPU cluster orchestrator, providing the tools necessary to execute real-time, asynchronous, and batch model predictions. The platform utilizes declarative infrastructure-as-code for provisioning model clusters and environments. It optimizes operational costs by elastically scaling CPU and GPU resources through the use of spot instances. The system covers a broad set of operational capabilities, including wo

karpenter-provider-aws is a Kubernetes node autoscaler and infrastructure provider for AWS. It serves as a node lifecycle manager and cluster cost optimizer that automatically provisions and removes compute instances based on the resource requirements of pending pods. The project distinguishes itself through advanced AWS spot instance orchestration and price-capacity optimized selection to reduce cloud spend. It minimizes costs by consolidating underutilized nodes and prioritizing spot or reserved instances over on-demand capacity, while proactively migrating workloads before cloud provider i

Coroot is an observability platform and Kubernetes performance monitor that utilizes eBPF to automatically collect metrics, logs, and traces without requiring manual code instrumentation. It functions as an OpenTelemetry trace analyzer and an LLM observability gateway, exposing system health data to large language models through the Model Context Protocol. The platform differentiates itself by combining automated root cause analysis and AI-driven diagnostics to investigate performance regressions. It also includes a cloud cost monitoring tool that attributes infrastructure spending to specifi

Agones is a Kubernetes game server orchestrator designed for hosting, scaling, and managing dedicated multiplayer game servers. It extends the Kubernetes control plane using custom resource definitions to define game server and fleet objects, utilizing a dedicated fleet manager to maintain pools of warm server instances. The system provides a game server SDK and language-specific client libraries that allow server processes to signal readiness, health, and shutdown states directly to the controller. It distinguishes itself through specialized scaling logic, including the use of WebAssembly mo

ClearML is a comprehensive MLOps platform designed to manage the end-to-end machine learning lifecycle, from initial experimentation to production deployment. It provides a suite of integrated tools including a pipeline orchestrator for automating workflows, an experiment tracking tool for logging hyperparameters and metrics, and a metadata-driven data versioning system for managing large-scale datasets and model artifacts. The platform is distinguished by its advanced compute management and serving capabilities. It features a GPU compute manager that supports fractional resource slicing and

CloudQuery is a cloud infrastructure ETL tool and multi-cloud data pipeline designed to collect, synchronize, and normalize resource metadata from various cloud providers and SaaS platforms. It functions as a centralized asset inventory manager and security posture manager, extracting configuration and state data into relational databases, data lakes, or data warehouses. The system distinguishes itself by transforming complex, nested cloud API responses into flat relational tables, enabling the use of standard SQL for asset querying and analysis. It employs a modular plugin system for data ex

Osmedeus is a security workflow orchestration engine that coordinates AI agents, shell commands, and scanning tools through declarative YAML pipelines. It functions as a distributed security scanner, a declarative workflow automator, and an AI agent framework for security, enabling automated multi-step security analysis with conditional branching, parallel execution, and distributed workers. The engine distinguishes itself through a hybrid runner model that executes workflow steps on the local host, inside Docker containers, or over SSH to remote machines, selected per step or module. It supp

Dieses Projekt ist ein Leistungsoptimierer und Ressourcen-Bencher für AWS Lambda. Es analysiert das Verhältnis zwischen Ausführungsgeschwindigkeit und Kosten, indem es verschiedene Speicherkonfigurationen testet, um die kosteneffizientesten Einstellungen zu identifizieren und die Betriebsausgaben zu minimieren. Das Tool nutzt einen AWS-Step-Functions-Orchestrator, um die Ausführung und Datensammlung mehrerer Funktionstestläufe über verschiedene Leistungsstufen hinweg zu automatisieren. Es simuliert Produktions-Workloads durch das Injizieren benutzerdefinierter statischer oder Remote-Daten und die Verwendung gewichteter Payload-Verteilung, um reale Verkehrsmuster nachzuahmen. Die Suite deckt mehrere Funktionsbereiche ab, einschließlich iterativer Speicherabtastung und metrikbasierter Kostenmodellierung zur Visualisierung von Leistungs-Trade-offs. Sie bietet automatisierte Ressourcenbereinigung für temporäre Funktionsversionen und Aliase, private Netzwerkkonfiguration für eingeschränkte interne Ressourcen und Remote-Payload-Laden, um Standard-Aufrufgrößenbeschränkungen zu umgehen. Die Bereitstellung erfolgt über Infrastructure-as-Code-Konstrukte, um eine konsistente Umgebungseinrichtung und Wiederholbarkeit zu gewährleisten.

Cloud Custodian ist eine Multi-Cloud-Governance-Engine und ein Richtliniendurchsetzungstool, das dazu entwickelt wurde, Sicherheit, Compliance und Kostenoptimierung über verschiedene Cloud-Anbieter hinweg zu automatisieren. Es fungiert als Regel-Engine, die eine deklarative, domänenspezifische Sprache verwendet, um Cloud-Ressourcen abzufragen und korrigierende Maßnahmen basierend auf vordefinierten Filtern auszuführen. Das System arbeitet als serverloser Richtlinien-Orchestrator, der anbieterspezifische Funktionen bereitstellt, um eine Echtzeit-Durchsetzung als Reaktion auf Änderungen an Cloud-Ressourcen auszulösen. Es bietet eine anbieterunabhängige Ressourcenabstraktion, um konsistente operative Richtlinien über mehrere Konten, Abonnements und Projekte hinweg aufrechtzuerhalten. Die Funktionen decken die Prüfung der Cloud-Infrastruktur ab, einschließlich der Analyse von Assets innerhalb von Continuous-Integration-Pipelines und der Generierung von Compliance-Berichten. Das Tool unterstützt zudem die Kostenoptimierung, um ungenutzte Ressourcen zu identifizieren und zu entfernen, und enthält einen Simulationsmodus, um betroffene Ressourcen zu identifizieren, ohne tatsächliche Änderungen anzuwenden.

Cloud Custodian is an open-source rules engine that uses declarative YAML policies to query, filter, and take automated actions on cloud resources for governance and compliance. It functions as a stateless policy execution engine, where each policy evaluation runs as an independent, idempotent operation without maintaining internal state between runs. Policies are defined using a YAML-based domain-specific language that structures rules as a query-filter-action pipeline. The engine supports dry-run validation, allowing users to simulate policy actions against live resources without applying c

GreptimeDB is a distributed, open-source time-series database built for unified observability. It stores and queries metrics, logs, and traces together in a single columnar engine, supporting both SQL and PromQL for analysis. The database is designed as a Kubernetes-native operator with a decoupled compute and storage architecture, enabling horizontal scaling and multi-region deployment. What distinguishes GreptimeDB is its role as a multi-protocol ingestion gateway, accepting data through OpenTelemetry, Prometheus Remote Write, InfluxDB, Loki, Elasticsearch, Kafka, and MQTT protocols without

Rivet ist eine verteilte Infrastruktur zur Verwaltung des Lebenszyklus, der Adressierung und der Persistenz von zustandsbehafteten Akteuren (Actors) und dauerhaften Ausführungs-Engines. Es bietet eine verteilte Prozess-Sandbox, die Anwendungslogik innerhalb leichtgewichtiger Isolates ausführt, was Ressourcenisolierung und schnelle Kaltstarts gewährleistet. Das System ist darauf ausgelegt, mehrstufige Operationen mittels persistenter Queues und Timer zu koordinieren, um eine zuverlässige Aufgabenerledigung in verteilten Umgebungen zu garantieren. Die Plattform ermöglicht spezifisch die Orchestrierung von zustandsbehafteten KI-Agenten, die persistentes Gedächtnis und Status über lang laufende Interaktionen und komplexe Workflows hinweg beibehalten. Sie zeichnet sich durch ein WebSocket-Status-Synchronisations-Framework aus, das Frontend-UI-Komponenten über bidirektionale Echtzeitkommunikation an entfernte zustandsbehaftete Prozesse bindet. Das System deckt ein breites Spektrum an Funktionen ab, einschließlich hierarchischer Akteur-Adressierung, einer Hibernate-on-Idle-Laufzeit zur Ressourcenoptimierung und einer austauschbaren Persistenzschicht für modulare Speicher-Backends. Es enthält zudem Tools für aktives Session-Debugging, Echtzeit-Überwachung des Ausführungsstatus und automatisierte Bereitstellungsoptionen für Edge-, Cloud- oder private Infrastrukturen. Das Projekt ist in Rust implementiert und unterstützt die Akteur-Entwicklung in mehreren Sprachen.

Koloda ist eine iOS-Gesteninteraktionsbibliothek und SwiftUI-View-Komponente, die zum Erstellen von Swipeable-Card-Interfaces verwendet wird. Sie bietet eine stapelbasierte View-Komponente, die überlappende Views verwaltet und sicherstellt, dass nur das oberste Element aktiv interaktiv bleibt. Die Bibliothek ermöglicht die Anpassung des Erscheinungsbildes der Karten, einschließlich der Konfiguration von Overlays und Animationen, die bestimmen, wie sich Hintergrundkarten während eines Swipes bewegen. Sie verwaltet das Drag-Verhalten und die Swipe-Richtungen und löst spezifische Logik aus, wenn Karten gewischt, angetippt oder vollständig aufgebraucht werden. Die Komponente deckt die Implementierung gestengesteuerter View-Transformationen und das Rendern von Kartenstapeln ab, die Benutzer durch ein gängiges Auswahl-Interaktionsmuster verwerfen.

Side-Menu.Android ist eine wiederverwendbare UI-Komponente für Android-Anwendungen, die eine ausziehbare Navigationsleiste (Slide-out Navigation Drawer) bereitstellt. Sie wurde entwickelt, um Entwicklern dabei zu helfen, Anwendungsbereiche und Benutzeroptionen in einem strukturierten, verborgenen Panel zu organisieren, das eine saubere Schnittstelle für den primären Inhaltsbereich beibehält. Die Komponente zeichnet sich durch ihre visuelle Präsentation aus, die den Material Design-Richtlinien folgt, um eine konsistente und intuitive Benutzererfahrung zu gewährleisten. Sie verfügt über eine datengesteuerte Menühierarchie, die eine logische Gruppierung von Navigationselementen ermöglicht, und integriert flüssige kreisförmige Reveal-Animationen, um polierte visuelle Übergänge beim Öffnen oder Schließen des Menüs zu bieten. Durch die Kapselung komplexer Layout- und Interaktionslogik in eine einzige, modulare Klasse vereinfacht die Bibliothek die Implementierung der Navigation über mehrere Bildschirme hinweg. Sie unterstützt ereignisgesteuerte Übergänge, was es Entwicklern ermöglicht, Menüinteraktionen von Inhaltsaktualisierungen zu entkoppeln, um eine saubere und reaktionsschnelle Anwendungsarchitektur zu wahren.

Mimir ist eine Multi-Tenant-Zeitreihendatenbank und ein verteilter Metrik-Speicher für skalierbare Telemetrie. Es dient als Prometheus-kompatibles Backend und bietet Langzeitspeicherung sowie eine skalierbare Abfrage-Engine für massive Mengen an Zeitreihendaten. Das System ist für Multi-Tenant-Observability konzipiert und isoliert Telemetriedaten sowie Ressourcenlimits für unabhängige Teams oder Organisationen innerhalb eines einzigen Clusters. Es gewährleistet hohe Verfügbarkeit und Langlebigkeit durch Sharding und Replikation von Daten über einen verteilten Cluster hinweg und nutzt Objektspeicher zur Persistenz, um externe Datenbankabhängigkeiten zu eliminieren. Das Projekt deckt weitreichende Fähigkeiten ab, einschließlich globaler Metrik-Aggregation für regionsübergreifende Analysen und verteilter Abfrageausführung mittels Parallelisierung und Caching. Es integriert zudem Observability-Tools wie föderiertes Alerting, synthetisches Monitoring und KI-gestützte Incident-Resolution-Workflows zur Beschleunigung der Fehlerbehebung. Administrative Kontrollen umfassen Tenant-Ressourcenquoten, benutzerbezogene Ressourcen-Overrides und Shuffle-Sharding für Workload-Isolierung.

KRR is an open-source tool for analyzing Kubernetes resource requests and recommendations. It evaluates how pods are currently configured and provides suggestions for optimizing CPU and memory allocations based on actual usage patterns. The project focuses on helping teams right-size their Kubernetes workloads by identifying over-provisioned and under-provisioned resources. It scans clusters and generates reports that highlight where adjustments can reduce costs or improve performance without compromising reliability. KRR is distributed as a Python command-line tool that can be run directly