Awesome GitHub RepositoriesPruning Ratio Optimization

Torch-Pruning is a deep learning model pruning tool and neural network optimization toolkit designed for PyTorch. The library analyzes neural network graphs to remove redundant parameters and channels, reducing model size and computational costs. The framework traces computational graphs dynamically using sample inputs to map relational dependencies and identify coupled layers that require simultaneous pruning. It evaluates and ranks layer parameters across the entire network using global importance ranking and applies structural constraints to optimize overall outcomes. Additional capabili

Ce projet est un framework destiné à aligner les grands modèles de langage (LLM) sur les préférences humaines. Il fournit une bibliothèque permettant d'optimiser le comportement des modèles en mappant directement les données de préférence sur un objectif de politique, sans avoir recours à un modèle de récompense distinct. Le framework utilise un objectif mathématique en forme fermée pour ajuster les poids du modèle en maximisant la probabilité des réponses préférées par rapport aux autres. Il inclut une boîte à outils pour le fine-tuning supervisé, permettant aux utilisateurs d'établir une base de référence stable sur des données de démonstration avant d'appliquer des techniques d'optimisation basées sur les préférences. La bibliothèque prend en charge l'entraînement distribué, permettant de mettre à l'échelle l'alignement des modèles sur plusieurs accélérateurs matériels grâce au sharding de données et à des stratégies de parallélisation. Elle fournit également des utilitaires pour préparer des jeux de données de préférence personnalisés, en mappant les prompts et les paires de réponses pour structurer le feedback humain destiné au pipeline d'entraînement.

PocketFlow is an integrated toolkit for deep learning model compression, distributed training, and mobile format optimization. It provides a system for reducing the size and complexity of neural networks to improve inference efficiency, featuring a dedicated engine for knowledge distillation and a mobile model optimizer. The framework differentiates itself through an automated hyperparameter tuning system that uses reinforcement learning and statistical models to determine optimal compression ratios and layer-wise bit allocation. It also includes a distributed training system that utilizes mu