2 रिपॉजिटरी
Awesome GitHub RepositoriesInference Speed Optimization
Training and distillation methods designed to reduce the temporal cost of generating samples from generative models.
Distinct from Distributed Consistency Models: Distinct from Distributed Consistency Models: focuses on reducing generation latency in AI models rather than data consistency in distributed systems.
Explore 2 awesome GitHub repositories matching software engineering & architecture · Inference Speed Optimization. Refine with filters or upvote what's useful.
Awesome Inference Speed Optimization GitHub Repositories
AI के साथ बेहतरीन रिपॉजिटरी खोजें।हम AI का उपयोग करके सबसे सटीक रिपॉजिटरी खोजेंगे।
- openai/consistency_models
openai/consistency_models
6,492GitHub पर देखेंThis project is a framework for training and sampling generative models designed to produce high-quality images in few steps. It provides implementations for image generation models that transform random noise into structured visual data through an optimized sampling process. The system specializes in accelerating image generation through consistency distillation and consistency training. It includes tools to transform pre-trained diffusion models into faster versions by distilling knowledge from a teacher model into a student model, as well as methods to train consistency models from scratch
Reduces the temporal cost of image creation by training student models to mimic teacher models.
Python - meituan-longcat/longcat-video
meituan-longcat/LongCat-Video
4,460GitHub पर देखेंLongCat-Video वीडियो सिंथेसिस के लिए विशेष मॉडलों का एक संग्रह है, जिसमें टेक्स्ट, छवियों या मौजूदा अनुक्रमों से उच्च-रिज़ॉल्यूशन वीडियो बनाने के लिए एक बड़े भाषा मॉडल-आधारित आर्किटेक्चर की सुविधा है। इसमें टेक्स्ट-टू-वीडियो जनरेशन, इमेज-टू-वीडियो एनीमेशन और टॉकिंग अवतार बनाने के लिए समर्पित सिस्टम शामिल हैं। यह प्रोजेक्ट एक वीडियो निरंतरता मॉडल के माध्यम से मौजूदा क्लिप की लंबाई बढ़ाने के लिए विशिष्ट क्षमताएं प्रदान करता है जो बाद के फ्रेम की भविष्यवाणी करता है। यह बोलने वाले वीडियो बनाने के लिए ऑडियो और टेक्स्ट प्रॉम्प्ट के साथ चरित्र के होंठों की गतिविधियों के सिंक्रोनाइज़ेशन को भी सक्षम बनाता है। सिस्टम जनरेशन दक्षता को प्रबंधित करने के लिए विभिन्न ऑप्टिमाइज़ेशन तकनीकों को शामिल करता है, जिसमें मेमोरी उपयोग और इन्फरेंस लेटेंसी को कम करने के लिए डिस्टिलेशन-आधारित सैंपलिंग और क्वांटाइजेशन शामिल है। अतिरिक्त संरचनात्मक घटक समय और स्थान के साथ निरंतरता बनाए रखने के लिए लेटेंट-स्पेस कम्प्रेशन और स्थानिक-अस्थायी मॉडलिंग को कवर करते हैं।
Reduces generation latency and memory usage through distillation and quantization.
Python
