Awesome GitHub RepositoriesContainerized Model Serving

Tabby is a self-hosted AI coding assistant designed to provide real-time code completion and interactive chat capabilities within development environments. By functioning as a private server application, it allows teams to maintain control over their infrastructure and data while integrating intelligent code generation directly into their existing workflows. The platform distinguishes itself through its repository-aware knowledge retrieval and multi-model orchestration. It indexes local and remote source code repositories and technical documentation into a searchable vector-based knowledge gr

Ludwig is a declarative machine learning framework designed for training neural networks and large language models using configuration files instead of manual coding. It functions as a multimodal model builder and a low-code tool for supervised fine-tuning, allowing users to build models that process mixed inputs of text, images, audio, and tabular data. The project distinguishes itself through an automated hyperparameter optimizer and a system for large language model fine-tuning using parameter-efficient adapters. It features a multimodal data pipeline and the ability to automatically gener

Este proyecto es una biblioteca y framework de inferencia de modelos de lenguaje de gran tamaño (LLM) diseñado para ejecutar modelos para generación de texto, resolución de problemas y asistencia en codificación. Incluye un framework multimodal para procesar entradas combinadas de imagen y texto, y una implementación de uso de herramientas que permite la ejecución de funciones externas basadas en el razonamiento del modelo. El sistema cuenta con un motor de inferencia de GPU distribuido que reparte las cargas de trabajo de modelos grandes a través de múltiples procesadores gráficos para aumentar la velocidad de procesamiento y cumplir con los requisitos de memoria. También proporciona despliegue de modelos en contenedores a través de imágenes preempaquetadas y dependencias para servir motores de inferencia en entornos aislados. La biblioteca cubre una gama de capacidades que incluyen análisis de entrada multimodal, integración de llamadas a funciones y codificación de relleno (fill-in-the-middle) para predecir segmentos de código faltantes. Además, admite chat interactivo con el modelo a través de una interfaz de línea de comandos para mantener sesiones conversacionales.

OpenVINO is an AI inference engine and model serving platform designed to execute optimized deep learning models across CPUs, GPUs, and NPUs through a unified API. It includes a model optimization toolkit for converting, quantizing, and compressing models from various frameworks, alongside a specialized generative AI runtime for large language models. The project distinguishes itself through a plugin-based hardware acceleration layer that maps neural network operations to vendor-specific drivers. It features advanced execution mechanisms such as continuous batching, speculative decoding, and

Intel XPU LLM Acceleration Library is a toolkit designed to accelerate large language model inference and finetuning on Intel CPUs, GPUs, and NPUs. It provides a distributed inference engine for scaling models across multiple accelerators, a multimodal model runtime for vision and speech tasks, and a low-bit model quantization tool for converting weights into INT4, FP8, and GGUF formats. The project features a parameter-efficient finetuning framework that enables model adaptation using QLoRA and DPO on Intel hardware. It distinguishes itself by providing specialized optimizations for Intel XP

mmtracking is a PyTorch video perception framework designed for training and deploying computer vision models that analyze sequential image data. It provides specialized tools for multi-object tracking, video instance segmentation, and a configuration-driven system for managing deep learning models. The project utilizes a deep learning model registry and a configuration-driven pipeline to swap model backbones and detectors without modifying the core codebase. This modular approach allows for the development of custom perception architectures by combining various components and configurations.

Este proyecto proporciona una colección integral de recursos educativos y guías técnicas para entrenar, ajustar y desplegar modelos de machine learning usando PyTorch y Hugging Face. Sirve como una referencia práctica para escalar flujos de trabajo de deep learning, ofreciendo instrucciones estructuradas para gestionar arquitecturas a gran escala a través de aceleradores de hardware distribuidos. El repositorio destaca por centrarse en el ciclo de vida de extremo a extremo de los modelos de lenguaje grandes (LLM), enfatizando específicamente el despliegue contenedorizado y la optimización del rendimiento. Detalla flujos de trabajo para el ajuste fino eficiente en parámetros y proporciona orientación técnica sobre la reducción de huellas de memoria mediante cuantización de pesos y técnicas de decodificación especulativa. Más allá del entrenamiento y despliegue central, el proyecto cubre una amplia gama de operaciones de machine learning (MLOps), incluyendo el empaquetado de entornos, la evaluación comparativa de rendimiento y la configuración de entornos de ejecución contenedorizados. Estos recursos ayudan a mantener un rendimiento consistente y eficiencia de recursos al alojar modelos generativos y multimodales en producción.