3 repositorios
Specialized iterators that decouple training loops from data sources and manage dataset restarts.
Distinct from Range-Based Loop Iteration: Focuses on the lifecycle and restart logic of ML dataset iterators rather than generic language loop constructs
Explore 3 awesome GitHub repositories matching software engineering & architecture · Training Data Iterators. Refine with filters or upvote what's useful.
Ignite es un framework de entrenamiento de alto nivel para redes neuronales en PyTorch que sirve como motor de entrenamiento y gestor del ciclo de vida del aprendizaje profundo. Proporciona un sistema estructurado para organizar y automatizar bucles de entrenamiento y evaluación, gestionando iteradores de datos y activando manejadores de eventos en hitos específicos durante el proceso de entrenamiento del modelo. El proyecto se distingue por una suite integral de herramientas para el entrenamiento distribuido y la evaluación de modelos. Incluye utilidades para sincronizar gradientes y coordinar la comunicación colectiva a través de múltiples GPUs o nodos, así como una suite de evaluación para calcular métricas de rendimiento y realizar validación cruzada k-fold. Sus capacidades más amplias cubren la automatización del flujo de trabajo de entrenamiento, incluyendo la programación de la tasa de aprendizaje, parada temprana y optimización de hiperparámetros. El framework también proporciona herramientas de observabilidad para el seguimiento de experimentos, perfilado de tiempo de ejecución y entrenamiento de precisión mixta para optimizar el uso de memoria. Se incluyen mecanismos de persistencia de estado para gestionar checkpoints del modelo y recuperar sesiones de entrenamiento. Hay entornos contenedorizados disponibles para simplificar el despliegue y la configuración del entorno.
Decouples the training loop from data sources by managing the lifecycle and restarting of dataset iterators.
This project is a TensorFlow meta-learning framework and research toolkit designed to implement and train learned optimizers. It provides a library of tools for developing neural networks that learn how to optimize other models, replacing traditional gradient-based optimization algorithms. The framework includes a problem ensemble manager that allows multiple distinct optimization tasks to be combined into a single weighted loss function for simultaneous training. It uses a factory pattern for network instantiation and supports the definition of custom objective functions and loss graphs as t
Executes training iterations over specified sequence lengths to optimize the learning algorithm's performance.
Machine-Learning-From-Scratch es un repositorio educativo que proporciona implementaciones de modelos fundamentales de machine learning construidos utilizando lógica de programación estándar en Python. Sirve como recurso para comprender la mecánica interna de algoritmos estadísticos y predictivos comunes construyéndolos desde cero en lugar de depender de frameworks de machine learning de alto nivel. El proyecto se distingue por priorizar la transparencia en el diseño algorítmico, utilizando primitivas matemáticas y cálculos vectorizados de arrays para exponer el cálculo subyacente y la lógica estadística. Al estructurar las técnicas de aprendizaje como componentes modulares e independientes, el repositorio permite el examen de bucles de entrenamiento iterativos y procesos de optimización basados en gradientes de forma aislada. Esta colección cubre una amplia gama de técnicas de ciencia de datos, centrándose en la implementación manual de pasos de procesamiento central y procedimientos de entrenamiento de modelos. El repositorio está diseñado para apoyar el desarrollo de habilidades en ciencia de datos demostrando cómo funcionan los modelos predictivos a través de prácticas básicas de programación y análisis.
Executes sequential passes over datasets to refine internal weights and biases through repeated exposure to input features.