Awesome GitHub RepositoriesApplication Server Configurations

NATS Server is a high-performance, lightweight messaging system designed for cloud-native applications, edge computing, and distributed microservices. It functions as a distributed publish-subscribe broker that routes messages using hierarchical, dot-separated subject strings, enabling decoupled communication between services without requiring centralized broker lookups. The system supports core messaging patterns including asynchronous publish-subscribe, request-reply, and load-balanced queue processing. The platform distinguishes itself through a decentralized architecture that eliminates t

Trojan is a censorship circumvention tool and TLS proxy server designed to bypass network restrictions by imitating legitimate web services. It functions as a TLS traffic obfuscator that masks proxy activity by mimicking the handshake and data flow of standard HTTPS requests. The system disguises network traffic as common web browsing to avoid deep packet inspection. It achieves this by wrapping TCP and UDP data within TLS encryption and forwarding unauthenticated or unauthorized requests to a legitimate destination website to hide the proxy's purpose. The project provides a tunnel that conv

This project is a Kubernetes Ingress Controller that functions as a layer 7 traffic router and NGINX reverse proxy. It serves as a secure network gateway, directing external HTTP and HTTPS traffic to backend services within a cluster based on declarative routing rules. The controller acts as a TLS termination gateway to secure traffic and integrates with Prometheus to expose request metrics and latency data for cluster monitoring. It supports canary deployment workflows by implementing weight-based traffic splitting between different versions of a service. The system manages external access

Vercel is a cloud platform for building, deploying, and scaling web applications. It provides a unified infrastructure that automates the build process by detecting project frameworks and distributing static and dynamic content through a global content delivery network. The platform executes application logic using serverless functions that scale automatically based on real-time traffic demand. The platform distinguishes itself through a centralized AI gateway that proxies requests to multiple model providers, enabling standardized authentication, observability, and cost tracking. It supports

Drogon is a high-performance, cross-platform C++ framework designed for building asynchronous web services and server-side applications. It functions as a multi-threaded, event-driven server engine that manages concurrent network traffic and WebSocket connections with minimal latency. By leveraging non-blocking input/output and native code compilation, the framework provides a foundation for scalable applications that operate efficiently across diverse hardware architectures. The framework distinguishes itself through its compile-time template rendering, which transforms dynamic HTML views in

This project is a PHP e-commerce platform and enterprise storefront framework designed for building and managing online stores. It functions as a modular PHP application and headless commerce engine, separating e-commerce business logic from frontend presentation to support multiple storefronts and devices. The system is built on a modular architecture that allows developers to add custom business logic and third-party integrations. It utilizes a service-contract-based API to ensure stability across module implementations and employs dependency-injection for object lifecycle management. Core

OpenVINO is an AI inference engine and model serving platform designed to execute optimized deep learning models across CPUs, GPUs, and NPUs through a unified API. It includes a model optimization toolkit for converting, quantizing, and compressing models from various frameworks, alongside a specialized generative AI runtime for large language models. The project distinguishes itself through a plugin-based hardware acceleration layer that maps neural network operations to vendor-specific drivers. It features advanced execution mechanisms such as continuous batching, speculative decoding, and

Cog is a machine learning packaging tool and containerized model wrapper that bundles models and their dependencies into standardized Docker containers. It functions as an environment manager and inference server, ensuring consistent model execution across different hardware systems by resolving GPU drivers, system libraries, and Python dependencies. The project distinguishes itself by automatically generating RESTful HTTP servers and OpenAPI schemas based on defined model input and output types. It manages large model weights as external fixtures to optimize image size and utilizes a slot-ba

This project is an automated SSL certificate manager and orchestrator for Nginx proxy configurations. It functions as an ACME protocol client that handles the request, issuance, and renewal of security certificates for web services running in containers. The system monitors Docker container lifecycle events to automatically provision certificates based on assigned hostnames. It automates the full certificate lifecycle, including domain ownership validation and the issuance of specialized wildcard or multi-domain certificates. The tool manages security through both HTTP and DNS challenge reso

vue-i18n is an internationalization framework and plugin for Vue.js applications. It serves as a dynamic translation manager and localization formatting library used to translate user interface text and format dates and numbers for global audiences. The project distinguishes itself through a dynamic translation workflow that supports asynchronous locale loading and the ability to reload translation messages in real-time without refreshing the page. It provides specialized mechanisms for rich text rendering, allowing the interpolation of HTML tags and Vue components directly into translated st

This is a Golang client library for interacting with a cloud native distributed messaging system. It provides the necessary tools for Go applications to exchange messages using publish-subscribe and request-reply patterns, as well as specialized clients for managing persistent streams and distributed storage. The library includes a JetStream client for durable message streaming and replay, a Key-Value store client for managing distributed state with versioning and watchers, and an Object Store client for the storage and retrieval of large binary files via chunked delivery. The implementation

The Blackbox Exporter is a Prometheus-compatible probe that checks the availability and response correctness of external services over HTTP, HTTPS, DNS, TCP, ICMP, and gRPC. It exposes probe results as Prometheus metrics, including a probe_success indicator for each endpoint checked, making it a dedicated tool for blackbox monitoring of network services. The exporter uses a probe-module configuration system where reusable settings such as protocol, method, and IP version are defined as named YAML modules. These modules are assigned to target groups through Prometheus relabeling rules, which m

Soketi ist ein Hochleistungs-WebSocket-Server und Echtzeit-Event-Broker, der das Pusher-Protokoll implementiert. Er fungiert als mandantenfähiges WebSocket-Gateway, das es mehreren isolierten Anwendungen ermöglicht, persistente Client-Verbindungen zu verwalten und Events über öffentliche, private und Presence-Kanäle zu übertragen. Das Projekt zeichnet sich durch seine verteilte Architektur aus, die Pub-Sub-Status-Synchronisation via Redis oder NATS nutzt, um horizontal über mehrere Serverinstanzen hinweg zu skalieren. Es bietet symmetrische Payload-Verschlüsselung für private Kanäle, wodurch sichergestellt wird, dass der Server als Relay fungiert, ohne auf Klartextinhalte zuzugreifen, und bietet mandantenfähige Ressourcenisolierung, um granulare Verbindungs- und Payload-Limits pro Anwendung durchzusetzen. Das System deckt umfassende Funktionsbereiche ab, einschließlich Echtzeit-Observability durch Prometheus-kompatible Metriken, asynchrones Webhook-Offloading an Redis oder SQS sowie flexible Konfigurationsspeicherung unter Verwendung relationaler Datenbanken oder Key-Value-Stores. Es enthält zudem Traffic-Management-Tools wie speicherbasiertes Ressourcen-Guarding, Rate-Limiting und Verfahren für ein Graceful Shutdown. Die Bereitstellung wird über Docker-Container-Images und Kubernetes-Helm-Charts unterstützt.

AIOS is an LLM agent operating system and orchestration kernel designed to manage memory, resource scheduling, and tool execution for multiple autonomous AI agents. It serves as a comprehensive framework for developing and deploying agents, featuring a dedicated resource manager that coordinates model backends, GPU memory, and isolated kernel instances. The system distinguishes itself through a semantic memory engine that uses vector search and autonomous clustering for long-term knowledge management, and a semantic file system that allows users to control computer files and system operations

opennextjs-aws ist ein Serverless-Infrastruktur-Adapter und Deployment-Tool, das Next.js-Build-Artefakte in kompatible Pakete für das Hosting auf AWS Lambda und S3 transformiert. Es fungiert als Deployment-Adapter, der Framework-spezifische Ausgaben auf Serverless-Funktionen und Objektspeicher abbildet. Das Projekt zeichnet sich durch die Implementierung Serverless-spezifischer Optimierungen aus, einschließlich eines Cache-Managers, der inkrementelle statische Regeneration und Fetch-Caches über S3 oder DynamoDB synchronisiert. Es bietet einen Cold-Start-Optimierer, der Bundle-Minifizierung und geplantes Function-Warming zur Latenzreduzierung nutzt, sowie eine dedizierte Bildoptimierungs-Pipeline zum Abrufen von Quelldateien aus S3 und deren Bereitstellung über CDN. Das System deckt ein breites Spektrum an Funktionen ab, einschließlich Edge-Middleware-Integration, Queue-basierter Hintergrund-Revalidierung und Multi-Target-Routenverteilung. Zudem verwaltet es den Datenverkehr durch CDN-Routing, Geolocation-Daten-Injektion und Server-Response-Streaming, um die Time-to-First-Byte zu verbessern. Das Tool bietet umfangreiche Anpassungsoptionen für Build-Pipelines, Adapter-Verhalten und Server-Logik, um vielfältige architektonische Anforderungen und Monorepo-Strukturen zu unterstützen.

Consul Template ist ein Konfigurations-Renderer und dynamischer Konfigurationsmanager, der Dateien durch das Befüllen von Templates mit Daten aus Consul und Vault generiert. Es fungiert als Template-Engine für Service Discovery und als Integrator für Secrets Management, wobei Cluster-Katalog- und Gesundheitsdaten in formatierte Konfigurationsdateien umgewandelt werden. Das Tool zeichnet sich dadurch aus, dass es als Prozess-Supervisor und Notifier fungiert, der in der Lage ist, Shell-Befehle auszuführen oder Anwendungen automatisch nach der Aktualisierung von Templates neu zu starten. Es verfügt über einen Long-Polling-Watcher zur Überwachung entfernter Key-Value-Stores und verwendet einen Shared-Locking-Mechanismus, um Updates über mehrere Instanzen hinweg zu koordinieren und gleichzeitige Service-Neustarts zu verhindern. Das System deckt ein breites Spektrum an Funktionen ab, darunter automatisierte Secret-Rotation für PKI-Zertifikate und Vault-Credentials, Datenformat-Transformation für JSON und YAML sowie die Ausführung externer Binär-Plugins für benutzerdefinierte Datenverarbeitung. Zudem bietet es Infrastruktur-Bootstrapping und verteilte Rendering-Synchronisierung, um die API-Last durch leader-basierte Abfrage-Deduplizierung zu reduzieren.

Llama-swap is a local inference orchestrator and API gateway for large language models. It functions as an OpenAI API proxy that manages the lifecycle of multiple local model servers, automatically starting and stopping them to swap models based on incoming request identifiers. The project distinguishes itself through dynamic model swapping and hardware optimization. It utilizes a specialized matrix-based concurrency control to define which models can run simultaneously and employs cost-based eviction to remove inactive servers from memory based on relative resource costs. The system provide

Dieses Projekt ist ein Docker-basierter Nginx Reverse Proxy Manager, der für die Automatisierung der Bereitstellung von HTTPS für Webanwendungen entwickelt wurde. Er fungiert als Gateway, das Sicherheitszertifikate über Let's Encrypt bezieht und erneuert sowie eingehenden Datenverkehr an Backend-Dienste weiterleitet. Das System zeichnet sich dadurch aus, dass es automatisch in Docker-Containern laufende Webdienste erkennt, um eine manuelle Domänenkonfiguration zu vermeiden. Es verwaltet Sicherheitszertifikate durch einen automatisierten Prozess und kann diese Zertifikate anderen Anwendungen über freigegebene Volumes zur Verfügung stellen. Das Tool deckt das Traffic-Management durch Load Balancing und Domänenumleitung ab. Es bietet zudem Sicherheitskontrollen wie Basisauthentifizierung und IP-Zugriffsbeschränkungen sowie die Möglichkeit, statische Dateien direkt aus dem Dateisystem bereitzustellen.

Boundary ist ein identitätsbewusster Access-Proxy und ein Tool für Privileged-Access-Management. Es vermittelt sichere Netzwerkverbindungen zu Infrastrukturzielen, indem es verifizierte Benutzeridentitäten auf granulare Berechtigungen abbildet und ein Gateway zu Servern und Datenbanken bietet, ohne dass statische Anmeldeinformationen oder VPNs erforderlich sind. Das System zeichnet sich durch Just-in-Time-Konnektivität und automatisierte Injektion von Anmeldeinformationen aus, wobei kurzlebige Geheimnisse während der Sitzungsinitialisierung an Benutzer übermittelt werden. Es implementiert ein komponierbares Sicherheitsmodell unter Verwendung von rollenbasierter Zugriffskontrolle (Allow-only) und hierarchischer Ressourcenscoping, um Sicherheitsdomänen zu isolieren und den Schadensradius zu begrenzen. Die Plattform bietet umfassende Funktionen für die Infrastruktur-Auditierung, einschließlich Sitzungsaufzeichnung und dimensionalem Audit-Logging für die Rekonstruktion von Vorfall-Zeitlinien. Sie unterstützt die automatisierte Ressourcenerkennung aus Cloud-Plattformen und verwaltet die Netzwerkkonnektivität über Worker-Nodes, die den Datenverkehr in private Netzwerke überbrücken. Die Authentifizierung erfolgt über native Konten oder durch OpenID-Connect-Identitätsüberbrückung. Boundary kann als selbstverwaltete Installation oder als gehosteter Cloud-Service bereitgestellt werden.