Awesome GitHub RepositoriesApplication Server Configurations

NATS Server is a high-performance, lightweight messaging system designed for cloud-native applications, edge computing, and distributed microservices. It functions as a distributed publish-subscribe broker that routes messages using hierarchical, dot-separated subject strings, enabling decoupled communication between services without requiring centralized broker lookups. The system supports core messaging patterns including asynchronous publish-subscribe, request-reply, and load-balanced queue processing. The platform distinguishes itself through a decentralized architecture that eliminates t

Trojan is a censorship circumvention tool and TLS proxy server designed to bypass network restrictions by imitating legitimate web services. It functions as a TLS traffic obfuscator that masks proxy activity by mimicking the handshake and data flow of standard HTTPS requests. The system disguises network traffic as common web browsing to avoid deep packet inspection. It achieves this by wrapping TCP and UDP data within TLS encryption and forwarding unauthenticated or unauthorized requests to a legitimate destination website to hide the proxy's purpose. The project provides a tunnel that conv

This project is a Kubernetes Ingress Controller that functions as a layer 7 traffic router and NGINX reverse proxy. It serves as a secure network gateway, directing external HTTP and HTTPS traffic to backend services within a cluster based on declarative routing rules. The controller acts as a TLS termination gateway to secure traffic and integrates with Prometheus to expose request metrics and latency data for cluster monitoring. It supports canary deployment workflows by implementing weight-based traffic splitting between different versions of a service. The system manages external access

Vercel is a cloud platform for building, deploying, and scaling web applications. It provides a unified infrastructure that automates the build process by detecting project frameworks and distributing static and dynamic content through a global content delivery network. The platform executes application logic using serverless functions that scale automatically based on real-time traffic demand. The platform distinguishes itself through a centralized AI gateway that proxies requests to multiple model providers, enabling standardized authentication, observability, and cost tracking. It supports

Drogon is a high-performance, cross-platform C++ framework designed for building asynchronous web services and server-side applications. It functions as a multi-threaded, event-driven server engine that manages concurrent network traffic and WebSocket connections with minimal latency. By leveraging non-blocking input/output and native code compilation, the framework provides a foundation for scalable applications that operate efficiently across diverse hardware architectures. The framework distinguishes itself through its compile-time template rendering, which transforms dynamic HTML views in

This project is a PHP e-commerce platform and enterprise storefront framework designed for building and managing online stores. It functions as a modular PHP application and headless commerce engine, separating e-commerce business logic from frontend presentation to support multiple storefronts and devices. The system is built on a modular architecture that allows developers to add custom business logic and third-party integrations. It utilizes a service-contract-based API to ensure stability across module implementations and employs dependency-injection for object lifecycle management. Core

OpenVINO is an AI inference engine and model serving platform designed to execute optimized deep learning models across CPUs, GPUs, and NPUs through a unified API. It includes a model optimization toolkit for converting, quantizing, and compressing models from various frameworks, alongside a specialized generative AI runtime for large language models. The project distinguishes itself through a plugin-based hardware acceleration layer that maps neural network operations to vendor-specific drivers. It features advanced execution mechanisms such as continuous batching, speculative decoding, and

Cog is a machine learning packaging tool and containerized model wrapper that bundles models and their dependencies into standardized Docker containers. It functions as an environment manager and inference server, ensuring consistent model execution across different hardware systems by resolving GPU drivers, system libraries, and Python dependencies. The project distinguishes itself by automatically generating RESTful HTTP servers and OpenAPI schemas based on defined model input and output types. It manages large model weights as external fixtures to optimize image size and utilizes a slot-ba

This project is an automated SSL certificate manager and orchestrator for Nginx proxy configurations. It functions as an ACME protocol client that handles the request, issuance, and renewal of security certificates for web services running in containers. The system monitors Docker container lifecycle events to automatically provision certificates based on assigned hostnames. It automates the full certificate lifecycle, including domain ownership validation and the issuance of specialized wildcard or multi-domain certificates. The tool manages security through both HTTP and DNS challenge reso

vue-i18n is an internationalization framework and plugin for Vue.js applications. It serves as a dynamic translation manager and localization formatting library used to translate user interface text and format dates and numbers for global audiences. The project distinguishes itself through a dynamic translation workflow that supports asynchronous locale loading and the ability to reload translation messages in real-time without refreshing the page. It provides specialized mechanisms for rich text rendering, allowing the interpolation of HTML tags and Vue components directly into translated st

This is a Golang client library for interacting with a cloud native distributed messaging system. It provides the necessary tools for Go applications to exchange messages using publish-subscribe and request-reply patterns, as well as specialized clients for managing persistent streams and distributed storage. The library includes a JetStream client for durable message streaming and replay, a Key-Value store client for managing distributed state with versioning and watchers, and an Object Store client for the storage and retrieval of large binary files via chunked delivery. The implementation

The Blackbox Exporter is a Prometheus-compatible probe that checks the availability and response correctness of external services over HTTP, HTTPS, DNS, TCP, ICMP, and gRPC. It exposes probe results as Prometheus metrics, including a probe_success indicator for each endpoint checked, making it a dedicated tool for blackbox monitoring of network services. The exporter uses a probe-module configuration system where reusable settings such as protocol, method, and IP version are defined as named YAML modules. These modules are assigned to target groups through Prometheus relabeling rules, which m

Soketi est un serveur WebSocket haute performance et un courtier d'événements en temps réel qui implémente le protocole Pusher. Il fonctionne comme une passerelle WebSocket multi-tenant, permettant à plusieurs applications isolées de gérer des connexions client persistantes et de diffuser des événements à travers des canaux publics, privés et de présence. Le projet se distingue par son architecture distribuée, utilisant la synchronisation d'état pub-sub via Redis ou NATS pour monter en charge horizontalement sur plusieurs instances de serveur. Il dispose d'un chiffrement symétrique des charges utiles pour les canaux privés, garantissant que le serveur agit comme un relais sans accéder au contenu en clair, et fournit une isolation des ressources multi-tenant pour appliquer des limites granulaires de connexion et de charge utile par application. Le système couvre de larges domaines de capacités, incluant l'observabilité en temps réel via des métriques compatibles Prometheus, le déchargement asynchrone de webhooks vers Redis ou SQS, et un stockage de configuration flexible utilisant des bases de données relationnelles ou des magasins clé-valeur. Il inclut également des outils de gestion du trafic tels que la protection des ressources basée sur la mémoire, la limitation de débit (rate limiting) et des procédures d'arrêt gracieux. Le déploiement est pris en charge via des images de conteneur Docker et des charts Helm Kubernetes.

AIOS is an LLM agent operating system and orchestration kernel designed to manage memory, resource scheduling, and tool execution for multiple autonomous AI agents. It serves as a comprehensive framework for developing and deploying agents, featuring a dedicated resource manager that coordinates model backends, GPU memory, and isolated kernel instances. The system distinguishes itself through a semantic memory engine that uses vector search and autonomous clustering for long-term knowledge management, and a semantic file system that allows users to control computer files and system operations

opennextjs-aws est un adaptateur d'infrastructure serverless et un outil de déploiement qui transforme les artefacts de build Next.js en paquets compatibles pour l'hébergement sur AWS Lambda et S3. Il fonctionne comme un adaptateur de déploiement qui mappe les sorties spécifiques au framework vers des fonctions serverless et du stockage d'objets. Le projet se distingue par l'implémentation d'optimisations spécifiques au serverless, y compris un gestionnaire de cache qui synchronise la régénération statique incrémentale et les caches de récupération (fetch) via S3 ou DynamoDB. Il dispose d'un optimiseur de démarrage à froid (cold start) qui utilise la minification de bundle et le réchauffement programmé des fonctions pour réduire la latence, ainsi qu'un pipeline d'optimisation d'images dédié pour récupérer les fichiers sources depuis S3 et les distribuer via CDN. Le système couvre un large éventail de capacités, y compris l'intégration de middleware edge, la revalidation en arrière-plan basée sur des files d'attente et la distribution de routes multi-cibles. Il gère également le trafic via le routage CDN, l'injection de données de géolocalisation et le streaming de réponses serveur pour améliorer le temps jusqu'au premier octet (TTFB). L'outil fournit des options de personnalisation étendues pour les pipelines de build, les comportements des adaptateurs et la logique serveur afin de prendre en charge des besoins architecturaux variés et des structures monorepo.

Consul Template est un moteur de rendu de configuration et un gestionnaire de configuration dynamique qui génère des fichiers en remplissant des modèles avec des données provenant de Consul et Vault. Il fonctionne comme un moteur de template de découverte de services et un intégrateur de gestion des secrets, transformant le catalogue de cluster et les données de santé en fichiers de configuration formatés. L'outil se distingue en agissant comme un superviseur de processus et un notificateur, capable d'exécuter des commandes shell ou de redémarrer automatiquement les applications après la mise à jour des modèles. Il dispose d'un watcher à long polling pour surveiller les magasins clé-valeur distants et emploie un mécanisme de verrouillage partagé pour coordonner les mises à jour sur plusieurs instances et empêcher les redémarrages de service simultanés. Le système couvre un large éventail de capacités, notamment la rotation automatique des secrets pour les certificats PKI et les identifiants Vault, la transformation de format de données pour JSON et YAML, et l'exécution de plugins binaires externes pour le traitement de données personnalisé. Il fournit également l'amorçage d'infrastructure et la synchronisation de rendu distribué pour réduire la charge API via la déduplication de requêtes basée sur le leader.

Llama-swap est un orchestrateur d'inférence locale et une passerelle API pour les grands modèles de langage (LLM). Il fonctionne comme un proxy API OpenAI qui gère le cycle de vie de plusieurs serveurs de modèles locaux, les démarrant et les arrêtant automatiquement pour basculer entre les modèles en fonction des identifiants de requête entrants. Le projet se distingue par son basculement dynamique de modèles et son optimisation matérielle. Il utilise un contrôle de concurrence spécialisé basé sur des matrices pour définir quels modèles peuvent s'exécuter simultanément et emploie une éviction basée sur les coûts pour supprimer les serveurs inactifs de la mémoire en fonction des ressources consommées. Le système fournit une gestion complète des modèles, incluant l'aliasing d'identifiants, le filtrage de requêtes et l'exécution de commandes de cycle de vie pour les conteneurs ou machines virtuelles. Il inclut également des outils d'observabilité tels qu'un playground de test visuel, une surveillance des performances système en temps réel et des fonctionnalités de sécurité comme la vérification de clés API et le chiffrement TLS. Les mises à jour de configuration sont gérées via un rechargement dynamique qui surveille les changements sur le système de fichiers sans nécessiter de redémarrage manuel.

Ce projet est un gestionnaire de reverse proxy Nginx basé sur Docker, conçu pour automatiser le déploiement du HTTPS pour les applications web. Il fonctionne comme une passerelle qui acquiert et renouvelle les certificats de sécurité via Let's Encrypt et relaie le trafic entrant vers les services backend. Le système se distingue par sa capacité à découvrir automatiquement les services web s'exécutant dans des conteneurs Docker, éliminant ainsi la configuration manuelle des domaines. Il gère les certificats de sécurité via un processus automatisé et peut exposer ces certificats à d'autres applications via des volumes partagés. L'outil couvre la gestion du trafic via l'équilibrage de charge et la redirection de domaine. Il fournit également des contrôles de sécurité tels que l'authentification de base et les restrictions d'accès par IP, ainsi que la possibilité de servir des fichiers statiques directement depuis le système de fichiers.

Boundary est un proxy d'accès conscient de l'identité et un outil de gestion des accès privilégiés. Il négocie des connexions réseau sécurisées vers des cibles d'infrastructure en mappant les identités utilisateur vérifiées à des autorisations granulaires, fournissant une passerelle vers les serveurs et les bases de données sans avoir besoin d'identifiants statiques ou de VPN. Le système se distingue par une connectivité juste-à-temps et une injection automatisée d'identifiants, délivrant des secrets à courte durée de vie aux utilisateurs lors de l'initialisation de la session. Il implémente un modèle de sécurité composable utilisant un contrôle d'accès basé sur les rôles (RBAC) et une portée de ressources hiérarchique pour isoler les domaines de sécurité et limiter le rayon d'explosion. La plateforme fournit de larges capacités pour l'audit d'infrastructure, notamment l'enregistrement de session et la journalisation d'audit dimensionnelle pour la reconstruction de la chronologie des incidents. Elle prend en charge la découverte automatisée des ressources à partir des plateformes cloud et gère la connectivité réseau via des nœuds de travail qui relient le trafic aux réseaux privés. L'authentification est gérée via des comptes natifs ou via le pontage d'identité OpenID Connect. Boundary peut être déployé en tant qu'installation auto-gérée ou en tant que service cloud hébergé.