Awesome GitHub RepositoriesInference Speed Optimization

This project is a framework for training and sampling generative models designed to produce high-quality images in few steps. It provides implementations for image generation models that transform random noise into structured visual data through an optimized sampling process. The system specializes in accelerating image generation through consistency distillation and consistency training. It includes tools to transform pre-trained diffusion models into faster versions by distilling knowledge from a teacher model into a student model, as well as methods to train consistency models from scratch

LongCat-Video es una colección de modelos especializados para síntesis de video, que cuenta con una arquitectura basada en modelos de lenguaje grandes para crear videos de alta resolución a partir de texto, imágenes o secuencias existentes. Incluye sistemas dedicados para la generación de texto a video, animación de imagen a video y la creación de avatares parlantes. El proyecto proporciona capacidades específicas para extender la duración de clips existentes a través de un modelo de continuación de video que predice los fotogramas subsiguientes. También permite la sincronización de los movimientos labiales de los personajes con audio y prompts de texto para producir videos hablados. El sistema incorpora varias técnicas de optimización para gestionar la eficiencia de la generación, incluyendo muestreo basado en destilación y cuantización para reducir el uso de memoria y la latencia de inferencia. Los componentes estructurales adicionales cubren la compresión en el espacio latente y el modelado espacio-temporal para mantener la consistencia a través del tiempo y el espacio.