1 repositorio
Awesome GitHub RepositoriesOperational State Accumulators
Mechanisms for aggregating computational operation counts across a model's hierarchical structure.
Distinct from Accumulator Tracking: Distinct from general accumulator tracking or gradient accumulation; specifically targets the summation of theoretical FLOPs/MACs across layers.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Operational State Accumulators. Refine with filters or upvote what's useful.
Awesome Operational State Accumulators GitHub Repositories
Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
- lyken17/pytorch-opcounter
Lyken17/pytorch-OpCounter
5,080Ver en GitHubpytorch-OpCounter es una utilidad de perfilado para redes neuronales de PyTorch diseñada para cuantificar la eficiencia del modelo calculando operaciones de punto flotante y conteos de multiplicación-acumulación. Funciona como un analizador de complejidad para medir el costo computacional y la carga de trabajo teórica de diferentes arquitecturas de modelos. La herramienta permite la definición de reglas de conteo de operaciones personalizadas para admitir módulos de terceros no cubiertos por defecto. Utiliza hooks de avance (forward hooks) para interceptar llamadas de módulos y recorrido recursivo del árbol de módulos para agregar operaciones a través de sub-módulos hijos. El proyecto proporciona capacidades para auditoría de rendimiento y análisis de complejidad, transformando conteos de operaciones sin procesar en formatos de métricas escalados legibles por humanos.
Implements a global state to sum multiply-accumulate and floating point operations across disparate layers of the model.
Python
