Awesome GitHub RepositoriesUpstream Health Monitoring

Tengine is an enhanced Nginx web server distribution designed for high-traffic environments. It functions as a high-performance reverse proxy, dynamic load balancer, and HTTP/3 proxy server, integrating an embedded Lua scripting engine to allow for custom business logic and dynamic request processing. The project distinguishes itself through a focus on modern transport protocols and efficiency, featuring native support for QUIC and HTTP/3 to reduce connection latency. It implements userspace UDP forwarding to bypass the kernel for higher throughput and provides the ability to dynamically upda

Twemproxy is a lightweight proxy that routes and distributes requests across multiple Redis and Memcached backend servers. It functions as a protocol translation gateway and distributed cache shard manager, partitioning data across clusters to balance load and storage capacity. The system acts as a high-availability cache orchestrator, employing health monitoring and automatic server ejection to maintain continuous access to cached data. It integrates with sentinels for dynamic master and replica discovery and utilizes consistent hashing and tag-based key grouping to manage data distribution

ProxySQL is a database proxy designed to route and balance traffic between applications and MySQL or PostgreSQL servers. It provides database high availability by monitoring backend server health and automatically rerouting traffic to healthy nodes during failover events to prevent downtime. The system integrates with generative AI models by proxying requests through a protocol handler, creating a bridge that allows large language models to access structured data. The project includes capabilities for traffic management through automatic failover routing and cluster topology discovery. It op

BFE is a Layer 7 HTTP and HTTPS traffic distributor that routes requests based on content inspection and configurable policies, managed through a RESTful API. It operates as a reverse proxy, distributing incoming traffic across backend servers according to user-defined rules. The project distinguishes itself through a domain-specific language for content-aware routing, allowing traffic to be directed by inspecting request headers, paths, and payloads. It supports multiple configurable load balancing policies and includes a plugin-based extension system for adding custom modules and middleware

goproxy is a Go module proxy server that caches and serves Go module dependencies to accelerate builds and improve reliability. It acts as an HTTP server that proxies requests to upstream sources, caching downloaded modules locally so repeated requests are served instantly without re-downloading. The project provides a mirror that stores a read-only copy of public Go modules for offline or accelerated access, and can bypass checksum database verification for private or unrecognized modules. The proxy is configured entirely through Go environment variables like GOPROXY, GONOSUMCHECK, and GONOS

Seesaw, Linux Virtual Server तकनीक पर आधारित एक ट्रैफिक डिस्ट्रीब्यूशन प्लेटफॉर्म है। यह हाई-अवेलेबिलिटी नेटवर्क क्लस्टर को मैनेज करने के लिए एक लोड बैलेंसर के रूप में कार्य करता है, जो BGP एनीकास्ट राउटिंग कंट्रोलर का उपयोग करके वर्चुअल IP एड्रेस को एडवर्टाइज़ और विथड्रॉ करता है ताकि ट्रैफिक को निकटतम उपलब्ध नोड तक भेजा जा सके। सिस्टम में एक डायरेक्ट सर्वर रिटर्न ऑर्केस्ट्रेटर शामिल है जो बैकएंड सर्वर को सीधे क्लाइंट्स को आउटबाउंड ट्रैफिक भेजने की अनुमति देता है। यह कॉन्फ़िगरेशन को रिलोड करने और नोड्स के बीच फेलओवर को ट्रिगर करने के लिए एक क्लस्टर मैनेजमेंट कमांड लाइन इंटरफेस भी प्रदान करता है। यह प्लेटफॉर्म HTTP, TCP, ICMP और DNS प्रोटोकॉल के माध्यम से बैकएंड हेल्थ मॉनिटरिंग को कवर करता है।

NGINX Ingress Controller एक Kubernetes-नेटिव ट्रैफिक मैनेजर है जो बाहरी अनुरोधों को संभालता है और उन्हें आंतरिक सेवाओं तक रूट करता है। यह आने वाले HTTP, TCP और UDP ट्रैफिक को मैनेज करने के लिए Kubernetes API ऑब्जेक्ट्स और एनोटेशन को प्रॉक्सी कॉन्फ़िगरेशन में बदलता है। कंट्रोलर उन्नत ट्रैफिक स्टीयरिंग और सुरक्षा एकीकरण के माध्यम से खुद को अलग बनाता है। यह ब्लू-ग्रीन और कैनरी ट्रैफिक स्प्लिटिंग, साथ ही कंटेंट-आधारित और रेगेक्स पाथ रूटिंग का समर्थन करता है। सुरक्षा को वेब एप्लिकेशन फ़ायरवॉल, डिनायल-ऑफ-सर्विस प्रोटेक्शन और OpenID Connect व JSON Web Tokens सहित विभिन्न प्रमाणीकरण विधियों के माध्यम से एज पर संभाला जाता है। प्रोजेक्ट TLS टर्मिनेशन और पासथ्रू, अपस्ट्रीम सेवाओं की सक्रिय हेल्थ मॉनिटरिंग और सेशन पर्सिस्टेंस को कवर करने वाली क्षमताओं का एक विस्तृत सेट प्रदान करता है।

Pomerium एक आइडेंटिटी-अवेयर, ज़ीरो-ट्रस्ट रिवर्स प्रॉक्सी है जिसे पारंपरिक VPN की आवश्यकता के बिना आंतरिक एप्लिकेशन और इंफ्रास्ट्रक्चर को सुरक्षित करने के लिए डिज़ाइन किया गया है। एक आइडेंटिटी प्रोवाइडर और एक डिक्लेरेटिव पॉलिसी इंजन के माध्यम से प्रत्येक अनुरोध को सत्यापित करके, यह सुनिश्चित करता है कि एक्सेस नेटवर्क स्थान के बजाय उपयोगकर्ता की पहचान, डिवाइस संदर्भ और अनुरोध एट्रिब्यूट्स के आधार पर प्रदान किया जाता है। यह प्रोजेक्ट विभिन्न प्रोटोकॉल और जटिल एक्सेस आवश्यकताओं को संभालने की अपनी क्षमता के माध्यम से खुद को अलग करता है। यह वेब एप्लिकेशन, TCP और UDP सेवाओं और SSH कनेक्शनों के लिए सुरक्षित, आइडेंटिटी-सत्यापित एक्सेस प्रदान करता है, जो स्टेटिक कीज़ को अल्पकालिक, कम समय तक चलने वाले प्रमाणपत्रों के साथ बदलता है। इसके अतिरिक्त, यह मॉडल कॉन्टेक्स्ट प्रोटोकॉल के लिए एक गेटवे के रूप में कार्य करता है, जो AI एजेंटों और स्वचालित सेवाओं के लिए सुरक्षित खोज, ऑडिटिंग और पॉलिसी-प्रवर्तित टूल निष्पादन को सक्षम बनाता है। Pomerium, Kubernetes के साथ एक इनग्रेस कंट्रोलर के रूप में एकीकृत होता है, जो नेटिव इनग्रेस संसाधनों को आइडेंटिटी-अवेयर रूटिंग कॉन्फ़िगरेशन में अनुवादित करता है। इसका आर्किटेक्चर सेंट्रलाइज्ड कंट्रोल-प्लेन सिंक्रोनाइज़ेशन का समर्थन करता है, जिससे प्रशासकों को वितरित प्रॉक्सी क्लस्टर्स में सुरक्षा नीतियां, TLS प्रमाणपत्र और रूटिंग कॉन्फ़िगरेशन वितरित करने की अनुमति मिलती है। सिस्टम लोड बैलेंसिंग, हेडर हेरफेर और पाथ-आधारित फिल्टरिंग सहित दानेदार ट्रैफिक प्रबंधन भी प्रदान करता है, ताकि बैकएंड सेवाओं के लिए सुरक्षित और प्रदर्शनकारी कनेक्टिविटी सुनिश्चित की जा सके। यह प्रोजेक्ट लचीले डिप्लॉयमेंट के लिए डिज़ाइन किया गया है, जो डेटा और कंट्रोल प्लेन कंपोनेंट्स की स्वतंत्र स्केलिंग को समायोजित करने के लिए एकीकृत और डीकूपल्ड आर्किटेक्चर दोनों का समर्थन करता है। यह प्राधिकरण निर्णयों के ऑडिट लॉगिंग और प्रदर्शन मेट्रिक्स निर्यात के माध्यम से व्यापक अवलोकन प्रदान करता है, जो विभिन्न वातावरणों में अनुपालन और सुरक्षा निगरानी की सुविधा प्रदान करता है।

Atlas एक MySQL डेटाबेस प्रॉक्सी और मिडलवेयर सिस्टम है जिसे डेटाबेस क्लस्टर के बीच ट्रैफ़िक को प्रबंधित करने के लिए डिज़ाइन किया गया है। यह एक उच्च-उपलब्धता डेटाबेस गेटवे और शार्डिंग मिडलवेयर के रूप में कार्य करता है, जो रूटिंग, लोड बैलेंसिंग और डेटाबेस कनेक्शन को प्रबंधित करने के लिए एक फॉल्ट-टोलरेंट एंट्री पॉइंट प्रदान करता है। यह प्रोजेक्ट रीड-राइट स्प्लिटिंग के संयोजन के माध्यम से खुद को अलग करता है, जो क्वेरी को प्राथमिक या प्रतिकृति सर्वर पर निर्देशित करता है, और कई बैकएंड इंस्टेंस में जानकारी वितरित करने के लिए डेटा शार्डिंग करता है। यह नए सत्र स्थापित करने के ओवरहेड को कम करने के लिए कनेक्शन पूलर का उपयोग करता है और क्लाइंट अनुरोधों को इंटरसेप्ट और निर्देशित करने के लिए प्रोटोकॉल-जागरूक रूटिंग लागू करता है। इस सिस्टम में निरंतर सेवा सुनिश्चित करने के लिए स्वास्थ्य निगरानी और स्वचालित फेलओवर की क्षमताएं शामिल हैं। यह बैकएंड सर्वर उपलब्धता पर प्रशासनिक नियंत्रण, एक्सेस कंट्रोल के लिए क्लाइंट IP फ़िल्टरिंग, और सिग्नल-संचालित ट्रैफ़िक डायवर्जन के माध्यम से शून्य-डाउनटाइम अपग्रेड के लिए एक तंत्र का सपोर्ट करता है। ट्रांजेक्शन अखंडता को अप्रत्याशित क्लाइंट डिस्कनेक्ट पर स्वचालित रोलबैक के माध्यम से प्रबंधित किया जाता है।

Keepalived एक उच्च उपलब्धता प्रबंधक और वर्चुअल IP फेलओवर टूल है जो निरंतर सेवा उपलब्धता सुनिश्चित करता है। यह राउटर अतिरेक और निर्बाध फेलओवर को मैनेज करने के लिए वर्चुअल राउटर रिडंडेंसी प्रोटोकॉल का उपयोग करके मास्टर और बैकअप नोड्स के बीच फ्लोटिंग IP पतों के माइग्रेशन को समन्वित करता है। यह प्रोजेक्ट ट्रांसपोर्ट-लेयर लोड बैलेंसर के रूप में कार्य करने के लिए Linux कर्नेल IPVS मॉड्यूल के साथ एकीकृत होकर खुद को अलग करता है। यह NAT, डायरेक्ट रूटिंग या टनलिंग जैसे विभिन्न शेड्यूलिंग एल्गोरिदम और फॉरवर्डिंग विधियों का उपयोग करके बैकएंड सर्वर पर नेटवर्क ट्रैफ़िक वितरित करता है। सिस्टम में मिलीसेकंड में विफलताओं की पहचान करने के लिए TCP, HTTP और बिडायरेक्शनल फॉरवर्डिंग डिटेक्शन प्रोटोकॉल का उपयोग करके नेटवर्क स्वास्थ्य निगरानी क्षमताएं शामिल हैं। यह कस्टम स्क्रिप्ट्स के निष्पादन, SMTP प्रशासनिक अलर्ट और कई इंस्टेंस में रूटिंग पथों के सिंक्रोनाइज़ेशन के माध्यम से ऑटोमेटेड फेलओवर ऑर्केस्ट्रेशन का समर्थन करता है। सॉफ्टवेयर एक कॉन्फ़िगरेशन सतह प्रदान करता है जो टेम्प्लेटाइज़ेशन, नेटवर्क नेमस्पेस आइसोलेशन और SNMP के माध्यम से सिस्टम मेट्रिक्स के एक्सपोर्ट का समर्थन करता है।

Varnish Cache एक HTTP रिवर्स प्रॉक्सी कैश, ट्रैफ़िक मैनेजर, और एज कंटेंट डिलीवरी उपकरण है। यह एक HTTP एक्सेलेरेटर के रूप में कार्य करता है जो बैकएंड लोड को कम करने और डिलीवरी गति में सुधार करने के लिए मेमोरी में रिस्पॉन्स स्टोर करता है। यह सिस्टम TLS टर्मिनेशन प्रॉक्सी और रिक्वेस्ट हैंडलिंग और कैशिंग लॉजिक को परिभाषित करने के लिए एक संकलित भाषा का उपयोग करने वाले कॉन्फ़िगरेशन इंजन के रूप में भी कार्य करता है। यह प्रोजेक्ट अपनी संकलित कॉन्फ़िगरेशन भाषा द्वारा विशिष्ट है, जो लाइन दर पर रिक्वेस्ट प्रसंस्करण को निष्पादित करने के लिए विशेष डोमेन लॉजिक को मशीन कोड में बदल देती है। यह उच्च-प्रदर्शन मेमोरी-केंद्रित स्टोरेज और विशेष कैश प्रबंधन प्रदान करता है, जैसे संबंधित ऑब्जेक्ट्स को लक्षित रूप से शुद्ध करने के लिए सरोगेट-की अमान्यता। यह प्लेटफ़ॉर्म गतिशील बैकएंड रूटिंग, रिक्वेस्ट रेट लिमिटिंग, और बैकएंड हेल्थ आइसोलेशन सहित ट्रैफ़िक प्रबंधन और अनुकूलन क्षमताओं की एक विस्तृत श्रृंखला को कवर करती है। यह URL क्वेरी स्ट्रिंग्स और हेडर के लिए सामग्री सामान्यीकरण, और HMAC सिग्नेचर गणना जैसी सुरक्षा सुविधाओं का समर्थन करता है। यह सॉफ़्टवेयर कंटेनर छवियों और Kubernetes Helm चार्ट के माध्यम से क्लाउड-नेटिव परिनियोजन का समर्थन करता है।

Pgcat is a PostgreSQL middleware solution providing connection pooling, sharding, load balancing, and failover management. It functions as a proxy that optimizes resource usage and scalability by managing database sessions and distributing queries across multiple instances. The system distinguishes itself through traffic mirroring, which duplicates live production queries to test databases for validation. It also implements a sharding proxy to distribute data and queries across multiple database instances based on sharding keys. The project covers high availability through automated failover

Contour एक Kubernetes इनग्रेस कंट्रोलर है जो Envoy प्रॉक्सी इंस्टेंस को ऑर्केस्ट्रेट करके बाहरी HTTP और TCP ट्रैफिक का प्रबंधन करता है। यह एक कंट्रोल प्लेन के रूप में कार्य करता है जो डिक्लेरेटिव Kubernetes API ऑब्जेक्ट्स को डायनामिक प्रॉक्सी कॉन्फ़िगरेशन में अनुवादित करता है, जिससे इंफ्रास्ट्रक्चर रीस्टार्ट की आवश्यकता के बिना रियल-टाइम ट्रैफिक प्रबंधन सक्षम होता है। यह सिस्टम मल्टी-टेनेंट क्लस्टर नेटवर्किंग और डेलिगेटेड कॉन्फ़िगरेशन पर ध्यान केंद्रित करके खुद को अलग करता है। रूटिंग रूल्स को नेमस्पेस में विभाजित करने की अनुमति देकर, यह कई टीमों को एक साझा क्लस्टर के भीतर अपनी स्वयं की ट्रैफिक नीतियों को सुरक्षित रूप से प्रबंधित करने में सक्षम बनाता है। यह बाहरी सर्विसेज के लिए ऑथेंटिकेशन और एक्सेस कंट्रोल निर्णयों को ऑफलोड करके और वर्चुअल होस्ट्स व क्रेडेंशियल्स पर दानेदार नियंत्रण प्रदान करके जटिल वातावरण का समर्थन करता है। कोर रूटिंग से परे, यह प्रोजेक्ट ट्रैफिक प्रबंधन और सुरक्षा क्षमताओं का एक व्यापक सूट प्रदान करता है। इसमें उन्नत लोड बैलेंसिंग, सर्किट ब्रेकिंग, रेट लिमिटिंग, और TLS टर्मिनेशन शामिल है, साथ ही डिस्ट्रीब्यूटेड रिक्वेस्ट ट्रेसिंग, स्ट्रक्चर्ड एक्सेस लॉगिंग, और सक्रिय बैकएंड हेल्थ मॉनिटरिंग जैसी मजबूत ऑब्जर्वेबिलिटी सुविधाएं भी शामिल हैं। कंट्रोलर लीडर इलेक्शन समन्वय के माध्यम से उच्च उपलब्धता सुनिश्चित करता है और रनटाइम एरर्स को रोकने के लिए इनिशियलाइजेशन के दौरान कॉन्फ़िगरेशन ऑब्जेक्ट्स को मान्य करता है।

pgdog is a PostgreSQL sharding proxy, distributed SQL router, and connection pooler. It is designed to enable horizontal data distribution by splitting tables and indices across multiple independent servers to scale storage and processing capacity. The project distinguishes itself through online resharding capabilities, using logical replication to move data between shards without application downtime. It supports multiple routing strategies, including hash, list, and range-based query routing, and manages distributed atomic transactions using a two-phase commit process to ensure consistency