1 dépôt
Capturing actual tensor dimensions during a forward pass using execution hooks.
Distinct from Tensor Shape Inferences: Distinct from Tensor Shape Inferences: focuses on recording runtime shapes via hooks rather than compile-time or static inference.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Runtime Shape Tracking. Refine with filters or upvote what's useful.
pytorch-summary est une collection d'utilitaires pour les réseaux de neurones PyTorch conçus pour générer des résumés de modèles, calculer les besoins en mémoire et visualiser les formes des tenseurs couche par couche. Il fonctionne comme un outil de reporting qui fournit des ventilations détaillées des couches du réseau et des formes de sortie pour aider au débogage et à l'inspection des modèles. Le projet fournit des capacités spécialisées pour estimer l'utilisation totale de la mémoire des passes avant et arrière en fonction des dimensions d'entrée et du nombre de paramètres. Il génère des visualisations lisibles par l'homme des structures de modèles pour vérifier les conceptions architecturales et identifier les inadéquations de dimensions entre les couches. L'outil implémente une analyse structurelle par le biais d'un parcours récursif des modules, d'un suivi des tenseurs basé sur des hooks et d'une inférence de forme pilotée par l'entrée. Ces capacités permettent l'agrégation du nombre de paramètres et le mapping du flux de données entre les opérations successives.
Intercepts PyTorch forward passes using hooks to record the exact shape of tensors at every layer.