Awesome GitHub RepositoriesLoad Balancing Algorithms

Nginx is a high-performance HTTP server and reverse proxy designed to handle high-concurrency traffic through an efficient, event-driven architecture. It functions as a versatile traffic management gateway and content delivery accelerator, providing the infrastructure necessary to route client requests, balance loads across backend servers, and serve static assets with minimal resource consumption. The project distinguishes itself through a master-worker process model that separates configuration management from request processing, ensuring stable operations under heavy load. Its modular requ

Ceph is a unified, software-defined storage platform designed to provide object, block, and file storage services from a single distributed cluster. By decoupling data management from physical hardware, it enables elastic scaling across commodity hardware, allowing organizations to build large-scale storage infrastructure without reliance on proprietary vendor equipment. The system distinguishes itself through a shared-nothing, distributed architecture that utilizes deterministic hashing for data placement. This approach eliminates centralized metadata bottlenecks, allowing the cluster to sca

Higress is an AI API gateway and cloud-native traffic manager that functions as a Kubernetes ingress controller. It provides a centralized system for routing, securing, and optimizing traffic directed toward large language models, AI agents, and microservice architectures. The project distinguishes itself through deep AI orchestration, including the ability to host and manage Model Context Protocol servers that transform REST APIs into tools for AI agents. It features specialized AI infrastructure for model request proxying, protocol translation across multiple providers, and semantic-based c

HAProxy is a high-performance TCP and HTTP proxy that distributes traffic across multiple backend servers to ensure availability and fault tolerance for critical services. It operates in either TCP or HTTP mode, with an event-driven, single-threaded reactor that handles tens of thousands of connections without context switching, and supports kernel-level data transfer to minimize memory usage and latency. What distinguishes HAProxy is its configuration-file-first design, where all load-balancing rules and runtime behavior are defined in a declarative text file parsed at startup. It embeds a L

NGINX Ingress Controller este un manager de trafic nativ Kubernetes care gestionează cererile externe și le direcționează către serviciile interne. Traduce obiectele și adnotările API Kubernetes în configurații proxy pentru a gestiona traficul HTTP, TCP și UDP de intrare. Controller-ul se distinge prin direcționarea avansată a traficului și integrarea securității. Suportă împărțirea traficului de tip blue-green și canary, precum și rutarea bazată pe conținut și pe căi regex. Securitatea este gestionată la margine prin intermediul unui firewall pentru aplicații web, protecție împotriva atacurilor de tip denial-of-service și o varietate de metode de autentificare, inclusiv OpenID Connect și JSON Web Tokens. Proiectul oferă un set larg de capabilități care acoperă terminarea și passthrough-ul TLS, monitorizarea activă a stării serviciilor upstream și persistența sesiunii. Include, de asemenea, instrumente de observabilitate precum integrarea metricilor Prometheus, dashboard-uri de trafic în timp real și urmărirea distribuită a cererilor. Instalarea este suportată prin Helm charts, un operator sau implementări standard de imagini de containere.

Piscina is a Node.js worker thread pool that runs CPU-intensive JavaScript functions across multiple threads for parallel execution. It manages a dynamic pool of worker threads with configurable size, handling task submission, cancellation, and lifecycle management through a promise-based interface. The pool supports AbortController-based task cancellation, enabling clean termination of submitted or running tasks without disrupting other work. It enforces per-worker memory limits through V8 resource caps and applies backpressure with a configurable maximum queue size that emits a drain event

Acest proiect este o analiză și un studiu detaliat al codului sursă Nginx, concentrându-se pe arhitectura serverului de înaltă performanță și fluxurile de apeluri de funcții. Servește ca o examinare tehnică a implementării interne în C utilizată pentru a construi sisteme de rețea cu concurență ridicată. Proiectul deconstruiește mecanismele interne ale serverului web, inclusiv modelul multi-proces master-worker, I/O asincron bazat pe evenimente și comunicarea non-blocantă prin socket-uri. Analizează ciclul de viață al procesării cererilor bazat pe faze, de la potrivirea URI-ului și parsarea header-elor până la generarea finală a conținutului. Studiul acoperă o gamă largă de tipare arhitecturale, inclusiv pooling-ul de memorie bazat pe slab-uri, comunicarea inter-proces prin memorie partajată și echilibrarea sarcinii bazată pe upstream. De asemenea, examinează implementarea mecanismelor de reverse proxy, strategiile de caching și modulele de securitate pentru protecția resurselor.

Glider is a multi-protocol forward proxy, transparent proxy gateway, and network service provider. It functions as a DNS and DHCP server, a Linux IP set manager, and a network traffic load balancer. The project distinguishes itself through a protocol-translation bridge that translates traffic between different proxy schemes and a chain-based routing system that sequences multiple remote proxy servers. It supports transparent traffic interception at the system level and utilizes build-time protocol stripping to minimize the binary size of the executable. The system covers a broad range of net

Acest proiect este un Kubernetes ingress controller care gestionează traficul extern prin configurarea dinamică a load balancer-ului HAProxy. Funcționează ca o punte între resursele cluster-ului și planul de date al rețelei, traducând definițiile de ingress de nivel înalt în configurații proxy active pentru a ruta traficul HTTP, TCP și UDP în medii containerizate. Controller-ul se distinge printr-o arhitectură decuplată care separă logica planului de control de procesul proxy, permițând gestionarea independentă a ciclului de viață și versionarea. Utilizează generarea de configurații bazată pe șabloane și reîncărcarea la cald în timp real prin socket-uri Unix pentru a aplica actualizările de rutare fără întreruperi ale serviciului. Prin suportarea tiparelor de trafic avansate, cum ar fi orchestrarea deployment-ului blue-green, manipularea header-elor și injectarea de parametri personalizați, oferă o alternativă ușoară la implementările complete de service mesh pentru gestionarea traficului la margine (edge). Platforma include o suită completă de capabilități operaționale, acoperind gestionarea automată a certificatelor TLS, politici granulare de control al accesului și integrarea cu firewall-uri pentru aplicații web externe. De asemenea, oferă o observabilitate robustă prin logarea traficului personalizat, metrici de performanță și verificări auxiliare ale stării de sănătate care ajustează dinamic ponderile de echilibrare a sarcinii bazate pe starea backend-ului în timp real. Controller-ul suportă modele de deployment flexibile, inclusiv scoping la nivel de namespace și filtrare de resurse, pentru a permite operarea multi-tenant într-un singur cluster. Se integrează cu tiparele standard de rețea Kubernetes și Gateway API pentru a asigura compatibilitatea cu fluxurile de lucru de infrastructură existente.

Consistent is a Go library that implements consistent hashing with bounded loads to distribute data keys across nodes in a distributed system. It provides a mechanism for mapping keys to cluster members that minimizes data movement during membership changes while preventing performance hotspots. The library distinguishes itself by enforcing strict capacity limits on individual nodes, ensuring that no single member becomes overwhelmed by excessive key assignments. It supports virtual node mapping to distribute physical capacity across the hash ring, allowing for granular control over load bala