Awesome GitHub RepositoriesProxy Cluster Deployments

gpt-load is a transparent proxy gateway that routes API requests to multiple AI providers—including OpenAI, Google Gemini, and Anthropic Claude—through a single endpoint while preserving each provider's native format and authentication. It acts as a centralized routing layer, allowing applications to switch between AI services by changing only the base URL without modifying any client code or business logic. The proxy distinguishes itself through intelligent traffic management across pools of API keys, offering automatic key rotation, weighted or round-robin load balancing, and failover that

Pomerium este un reverse proxy de tip zero-trust, conștient de identitate, conceput pentru a securiza aplicațiile interne și infrastructura fără a fi nevoie de un VPN tradițional. Prin verificarea fiecărei cereri printr-un furnizor de identitate și un motor de politici declarativ, acesta asigură că accesul este acordat pe baza identității utilizatorului, contextului dispozitivului și atributelor cererii, mai degrabă decât pe locația rețelei. Proiectul se distinge prin capacitatea sa de a gestiona protocoale diverse și cerințe complexe de acces. Oferă acces securizat, verificat prin identitate, la aplicații web, servicii TCP și UDP și conexiuni SSH, înlocuind cheile statice cu certificate efemere, cu durată scurtă de viață. În plus, funcționează ca un gateway pentru Model Context Protocol, permițând descoperirea securizată, auditarea și execuția de instrumente impusă de politici pentru agenții AI și serviciile automatizate. Pomerium se integrează cu Kubernetes ca un ingress controller, traducând resursele native de ingress în configurații de rutare conștiente de identitate. Arhitectura sa suportă sincronizarea centralizată a planului de control, permițând administratorilor să distribuie politici de securitate, certificate TLS și configurații de rutare în clustere proxy distribuite. Sistemul oferă, de asemenea, gestionarea granulară a traficului, inclusiv load balancing, manipularea header-elor și filtrarea bazată pe path, pentru a asigura o conectivitate securizată și performantă către serviciile backend. Proiectul este conceput pentru un deployment flexibil, suportând atât arhitecturi unificate, cât și decuplate pentru a acomoda scalarea independentă a componentelor de date și de control plane. Oferă o observabilitate cuprinzătoare prin audit logging-ul deciziilor de autorizare și exportul metricilor de performanță, facilitând monitorizarea conformității și securității în medii diverse.

caddy-docker-proxy este un reverse proxy HTTP dinamic și un controller de ingress pentru rețeaua Docker care generează automat configurații de rutare prin citirea etichetelor din containerele Docker. Acesta servește ca instrument de service discovery care detectează adresele IP ale containerelor în timp real pentru a ruta traficul web primit către țintele backend corecte. Proiectul funcționează ca un orchestrator de proxy distribuit, capabil să împingă configurațiile generate de la un controller central către mai multe instanțe de server remote pentru a scala gestionarea cererilor. Automatizează emiterea și reînnoirea certificatelor de securitate TLS pentru domeniile proxate și coordonează certificatele partajate între replicile de server. Sistemul suportă generarea de configurații bazată pe etichete, utilizând template-uri și Docker secrets pentru a injecta metadate și setări globale în configurația serverului. Menține sincronizarea prin ascultarea evenimentelor din ciclul de viață al containerelor și utilizează un mecanism de încărcare in-process pentru a actualiza comportamentul serverului. Capabilitățile de gestionare a traficului includ definirea regulilor de rutare a cererilor, potrivirea căilor și rescrierea URI-urilor pentru a direcționa traficul către resursele containerizate.