1 repositorio
Awesome GitHub RepositoriesLow Bitwidth Training
Training neural networks using reduced precision for weights and gradients to lower memory consumption.
Distinct from Training Memory Optimizers: Focuses on the bit-precision of the training process rather than general memory optimization techniques like gradient checkpointing.
Explore 1 awesome GitHub repository matching data & databases · Low Bitwidth Training. Refine with filters or upvote what's useful.
Awesome Low Bitwidth Training GitHub Repositories
Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
- tensorpack/tensorpack
tensorpack/tensorpack
6,287Ver en GitHubTensorpack es un framework de redes neuronales de alto nivel para TensorFlow y una librería de investigación diseñada para construir y entrenar modelos de deep learning. Proporciona una colección de arquitecturas de redes neuronales reproducibles para visión artificial, tareas generativas, aprendizaje por refuerzo y procesamiento de lenguaje natural. El proyecto se distingue por un pipeline de datos de deep learning especializado que utiliza Python puro para la carga y transmisión de datos en paralelo. Incluye un orquestador de entrenamiento multi-GPU para distribuir cargas de trabajo mediante estrategias de paralelismo de datos y un toolkit de interpretabilidad dedicado para visualizar la relevancia del modelo y los mapas de activación. El framework cubre una amplia gama de capacidades, incluyendo pipelines de visión artificial para detección de objetos y segmentación semántica, modelado de secuencias para voz y texto, y desarrollo de agentes de aprendizaje por refuerzo. También proporciona herramientas de optimización de modelos para cuantización de pesos y entrenamiento de baja precisión, junto con utilidades para reproducir artículos de investigación académica y convertir pesos de modelos Caffe heredados.
Reduces memory usage by training convolutional neural networks with limited bitwidth for weights and gradients.
Python
