Awesome GitHub RepositoriesInference Batching

यह प्रोजेक्ट एक उच्च-प्रदर्शन BERT एम्बेडिंग सर्विस और इन्फरेंस सर्वर है जिसे टेक्स्ट अनुक्रमों को निश्चित-लंबाई वाले संख्यात्मक वैक्टर में मैप करने के लिए डिज़ाइन किया गया है। यह एक मशीन लर्निंग माइक्रोसर्विस और वितरित मॉडल सर्वर के रूप में कार्य करता है जो भारी गणना से अनुरोध हैंडलिंग को अलग करता है। सिस्टम वितरित क्लाइंट और इन्फरेंस सर्वर के बीच कम-विलंबता संचार प्रदान करने के लिए ZeroMQ मैसेजिंग इंफ्रास्ट्रक्चर का उपयोग करता है। यह हार्डवेयर उपयोग को अधिकतम करने और उच्च अनुरोध वॉल्यूम को प्रबंधित करने के लिए सर्वर-साइड बैच प्रोसेसिंग और GPU वर्कलोड स्केलिंग को शामिल करता है। प्लेटफ़ॉर्म एक साझा वेक्टर स्थान के भीतर टेक्स्ट और छवियों दोनों के लिए क्रॉस-मॉडल एम्बेडिंग उत्पन्न करके सिमेंटिक सर्च इंफ्रास्ट्रक्चर का समर्थन करता है। यह क्रॉस-मॉडल खोज, सामग्री प्रासंगिकता रैंकिंग, और विजुअल सामग्री और टेक्स्ट विवरण के बीच सिमेंटिक संरेखण के आधार पर परिणामों की री-रैंकिंग को सक्षम बनाता है। सर्विस को gRPC, HTTP, या WebSocket प्रोटोकॉल के माध्यम से सुलभ एक इलास्टिक माइक्रोसर्विस के रूप में डिप्लॉय किया जा सकता है, जिसमें बड़े डेटासेट को संभालने के लिए नॉन-ब्लॉकिंग डुप्लेक्स स्ट्रीमिंग की सुविधा है।

StreamDiffusion is an interactive generative AI framework and inference engine designed for the low-latency delivery of image and video streams. It provides a real-time Stable Diffusion pipeline for text-to-image and image-to-image generation, enabling the creation of continuous generative image streams with minimized computational delay. The framework optimizes throughput using a pre-computed cache engine and residual-based guidance approximation to reduce the number of required model passes. It further manages GPU load through similarity-based frame skipping, which avoids redundant computat

FlexLLMGen is an inference engine and runtime designed to run large language models on a single GPU by combining weight compression with tensor offloading. It reduces model weight memory usage by approximately 70% through 4-bit quantization, and stores model parameters, attention cache, and hidden states across GPU, CPU, and disk to fit models larger than available GPU memory. The project distinguishes itself through a throughput-oriented batching approach that processes multiple generation requests together in large batches to maximize throughput on a single GPU. It also supports distributed

This project is an AI singing voice conversion system and vocal processor used for training generative voice models and converting vocal recordings or live input into a target voice. It functions as a VITS model trainer and a real-time voice changer that transforms vocal timbre and pitch to change the identity of a singer. The system provides a graphical management dashboard for controlling training hyperparameters and voice conversion presets. It supports low-latency audio streaming for live microphone input and employs pitch estimation to ensure precise matching between source and target vo

KServe is a Kubernetes-native platform for deploying and serving machine learning models as scalable inference services. It supports both generative AI models, including large language models, and traditional predictive models from frameworks such as TensorFlow, PyTorch, Scikit-Learn, XGBoost, and ONNX. The platform manages the full lifecycle of model deployments, including revision tracking, canary rollouts, A/B testing, and automatic rollbacks, and provides serverless scale-to-zero capabilities for cost-efficient resource management. KServe distinguishes itself through a standardized infere

KServe is an open platform for deploying and serving generative and predictive AI models on Kubernetes. It defines inference services as custom resources with declarative YAML specifications, enabling a Kubernetes-native approach to model deployment and lifecycle management. The platform leverages Knative-based serverless scaling for automatic scale-to-zero and revision management, and supports a pluggable serving runtime architecture that maps model formats to containerized execution environments. KServe distinguishes itself through model-aware autoscaling that scales replicas based on token

This project is an MLOps architectural guide and framework for designing and deploying deep learning systems into production environments. It provides a structured approach to model inference deployment, ML pipeline orchestration, and the creation of production-level machine learning architectures. The project distinguishes itself through a focus on distributed deep learning and edge AI optimization. It covers methodologies for parallelizing model training across multiple GPUs to handle large datasets and applies techniques like quantization and distillation to reduce model size for embedded

exllamav2 is a high-performance inference library designed for running large language models locally on consumer-grade GPUs. It provides a GPU-accelerated runner and quantization tools to enable model execution without reliance on cloud-based computing services. The project features a quantization utility that compresses models into mixed bitrates between two and eight bits to reduce video RAM requirements. It distinguishes itself through a batched text generator that handles grouped requests and deduplicates cache data to increase throughput. The library covers a broad capability surface in

exllamav2 is a high-performance inference engine and framework for executing large language models locally on consumer-class GPUs. It provides a complete system for local model deployment, including a specialized inference engine and tools for model quantization. The project features a multi-GPU inference framework that distributes workloads across multiple graphics cards to run models that exceed the memory capacity of a single device. It includes a GPU model quantizer capable of converting models into mixed-precision formats between 2 and 8 bits to balance memory usage and accuracy. The en

यह प्रोजेक्ट एक PyTorch मॉडल सर्विंग फ्रेमवर्क है जिसे स्केलेबल नेटवर्क एंडपॉइंट्स के माध्यम से प्रोडक्शन में मशीन लर्निंग मॉडल को तैनात और स्केल करने के लिए डिज़ाइन किया गया है। यह एक उच्च-प्रदर्शन इन्फरेंस सर्वर, ऑप्टिमाइज़र और मॉडल लाइफसाइकिल मैनेजर के रूप में कार्य करता है जो मॉडल लोडिंग, रिक्वेस्ट बैचिंग और हार्डवेयर एक्सेलेरेशन को संभालता है। यह सिस्टम उन्नत ऑर्केस्ट्रेशन और ऑप्टिमाइज़ेशन क्षमताओं के माध्यम से खुद को अलग करता है, जैसे कि निष्पादन ग्राफ़ का उपयोग करके कई मॉडलों को अनुक्रमिक वर्कफ़्लो में जोड़ना और थ्रूपुट व विलंबता में सुधार करने के लिए डायनेमिक बैचिंग को नियोजित करना। यह निरंतर बैचिंग और टेंसर समानता (tensor parallelism) के माध्यम से जेनरेटिव AI और बड़े भाषा मॉडल के लिए विशेष समर्थन प्रदान करता है। व्यापक क्षमता क्षेत्रों में NVIDIA, AMD और Apple Silicon जैसे विविध हार्डवेयर पर GPU संसाधन प्रबंधन, साथ ही पंजीकरण, संस्करण और वर्कर स्केलिंग के लिए व्यापक मॉडल लाइफसाइकिल प्रबंधन शामिल है। यह Prometheus-संगत मेट्रिक्स के माध्यम से सिस्टम स्वास्थ्य और मॉडल प्रदर्शन को ट्रैक करने के लिए ऑब्जर्वेबिलिटी टूल्स को भी एकीकृत करता है। सर्वर को लाइफसाइकिल नियंत्रण और रनटाइम मापदंडों के कॉन्फ़िगरेशन के लिए उपयोग किए जाने वाले कमांड-लाइन इंटरफ़ेस के माध्यम से प्रबंधित किया जाता है।

tiny-llm is a large language model inference engine and transformer model implementation. It serves as a quantized model runtime and paged key-value cache manager, providing a specialized inference stack optimized for Apple Silicon. The system distinguishes itself through high-throughput execution techniques, including continuous batching and paged attention. It utilizes a paged memory system to eliminate fragmentation during token generation and employs on-the-fly dequantization of compressed weights to reduce the memory footprint during matrix multiplication. The project covers a broad ran

LitServe एक Python AI अनुमान सर्वर फ्रेमवर्क और LLM सर्विंग फ्रेमवर्क है जिसे उच्च-कॉनकरेंसी अनुमान के लिए डिज़ाइन किया गया है। यह एक वितरित AI मॉडल सर्वर और डायनामिक बैचिंग अनुमान इंजन के रूप में कार्य करता है, जो AI मॉडल चलाने वाले कस्टम सर्वर बनाने और होस्ट करने के लिए टूल प्रदान करता है। यह फ्रेमवर्क एक डायनामिक-बैचिंग रिक्वेस्ट कतार के माध्यम से खुद को अलग करता है जो GPU थ्रूपुट को अधिकतम करने के लिए व्यक्तिगत अनुमान अनुरोधों को एकल टेंसर में समूहित करता है। यह वितरित GPU स्केलिंग का समर्थन करता है, जिससे मॉडल वर्कलोड को कंप्यूट लोड को संतुलित करने और कुल क्षमता बढ़ाने के लिए कई हार्डवेयर एक्सेलेरेटर्स में फैलाया जा सकता है। सिस्टम एक उच्च-स्तरीय रैपर इंटरफ़ेस प्रदान करता है जो मुख्य मॉडल निष्पादन लॉजिक से अनुरोध प्रीप्रोसेसिंग और पोस्टप्रोसेसिंग को अलग करता है। इसमें आउटपुट को क्रमिक रूप से डिलीवर करने के लिए रीयल-टाइम मॉडल स्ट्रीमिंग के लिए क्षमताएं भी शामिल हैं और समवर्ती नेटवर्क अनुरोधों को संभालने के लिए एक एसिंक्रोनस इवेंट लूप का उपयोग करता है।

LightLLM is a high-performance serving framework for deploying and executing large language models. It functions as a multi-GPU inference engine and server capable of handling dense architectures, mixture-of-experts designs, and multimodal models that process both text and images. The system is distinguished by its specialized support for Mixture-of-Experts models using expert parallelism and fused kernels. It implements structured text generation through deterministic state machines and pushdown automata to enforce precise output formats. To optimize throughput, the framework employs specula

WhisperLive is a real-time speech-to-text server that converts live audio streams into text using Whisper models. It functions as a backend service that receives microphone input via WebSockets and provides incremental transcriptions with word-level timestamps. The system utilizes a GPU-accelerated inference engine and a keyword-boosted transcription API to improve the recognition accuracy of domain-specific jargon, acronyms, and product names. It also includes a speaker diarization tool that clusters audio embeddings to identify and label different participants within a recording. Additiona

Lorax is a GPU-accelerated inference server and multi-adapter engine designed for serving large language models. It functions as a high-throughput system capable of deploying models via Kubernetes and managing the dynamic swapping of Low-Rank Adaptation adapters per request. The server distinguishes itself through multi-adapter dynamic batching, which allows requests using different adapter weights to be processed in a single GPU forward pass. It employs just-in-time adapter loading and weighted adapter merging to maximize throughput and enable multi-tasking without sacrificing performance.

mini-sglang is a collection of tools for large language model inference, serving as an OpenAI-compatible inference server, a memory-efficient prefill engine, and a tensor parallelism runtime. It also functions as a local batch processing engine for offline benchmarking and ablation studies. The project focuses on acceleration and memory management through a KV cache manager that reuses precomputed caches for shared request prefixes. It handles large model workloads by distributing tasks across multiple GPUs and manages peak memory consumption by splitting long input sequences into smaller chu

llm-d is a distributed serving framework designed for large language model inference. It functions as an inference orchestrator and gateway, providing a control plane for deploying model replicas and managing hardware accelerators. The system includes a batch inference scheduler and a cache manager to coordinate request flow and memory utilization. The project is distinguished by a disaggregated serving architecture that separates prefill and decode execution phases across specialized workers to maximize throughput. It employs a hardware-agnostic control plane and tiered cache offloading, mov