3 dépôts
Awesome GitHub RepositoriesDiffusion Model Memory Optimizers
Frameworks that reduce the memory footprint of diffusion models for inference on consumer hardware.
Distinct from Diffusion Weight Optimizers: Focuses on inference memory optimization and precision recovery rather than training weight optimization.
Explore 3 awesome GitHub repositories matching artificial intelligence & ml · Diffusion Model Memory Optimizers. Refine with filters or upvote what's useful.
Awesome Diffusion Model Memory Optimizers GitHub Repositories
Trouvez les meilleurs dépôts grâce à l'IA.Nous recherchons les dépôts les plus pertinents grâce à l'IA.
- picsart-ai-research/text2video-zero
Picsart-AI-Research/Text2Video-Zero
4,244Voir sur GitHubText2Video-Zero est un modèle de diffusion texte-vidéo et un framework conçu pour synthétiser des séquences vidéo temporellement cohérentes à partir de prompts textuels. Il fonctionne comme un générateur vidéo « zero-shot », réutilisant des modèles de diffusion d'image pré-entraînés pour créer du contenu vidéo sans nécessiter d'entraînement supplémentaire sur des jeux de données vidéo. Le système inclut un synthétiseur vidéo conditionnel qui permet une génération guidée utilisant des cartes de profondeur, de contour ou de pose pour contrôler la mise en page structurelle et le mouvement. Il fournit également des capacités d'édition vidéo basées sur le texte pour modifier le style ou le contenu de clips vidéo existants via des instructions en langage naturel. Pour gérer les exigences computationnelles, le projet implémente une inférence optimisée pour la mémoire GPU. Ceci est réalisé via des techniques telles que la fusion de jetons (token merging) et le découpage de trames (frame chunking) pour réduire l'utilisation de la VRAM pendant le processus de génération.
Optimizes GPU memory usage during video generation to enable inference on consumer-grade hardware.
Pythonvideo-editingvideo-generation - nunchaku-ai/nunchaku
nunchaku-ai/nunchaku
3,883Voir sur GitHubNunchaku is a 4-bit model quantization library and diffusion model inference engine designed to run large-scale neural networks on consumer GPUs. It functions as a GPU-accelerated optimizer that reduces VRAM usage and increases inference speed through weight compression and memory management. The project utilizes low-rank weight decomposition and SVD weight quantization to compress models to four-bit precision while maintaining visual fidelity. It employs kernel-level operator fusion to minimize data movement and hardware-aware precision mapping to adjust numerical precision based on the unde
Provides a specialized inference engine for running large-scale diffusion models with reduced memory overhead on consumer GPUs.
Pythoncomfyuidiffusion-modelsflux - city96/comfyui-gguf
city96/ComfyUI-GGUF
3,291Voir sur GitHubComfyUI-GGUF is a memory optimizer and model loader for ComfyUI that enables the execution of large transformer-based generative models using quantized weights. It provides a system for loading GGUF formatted weights within a node-based diffusion interface to reduce GPU memory consumption. The project includes a quantization tool for converting standard model checkpoints into compressed binary formats and a tensor fixer to restore missing keys and correct architectures in binary model files. These utilities ensure that compressed models remain functional during inference on hardware with limi
Provides a framework for running large transformer-based generative models using quantized weights.
Python
