1 repositorio
Asynchronous loading of dataset samples into memory ahead of their consumption in the training pipeline.
Distinct from Database Performance Sampling: Distinct from Database Performance Sampling: focuses on asynchronous pre-loading for ML training pipelines rather than statistical retrieval for tuning.
Explore 1 awesome GitHub repository matching data & databases · Data Prefetching. Refine with filters or upvote what's useful.
Flashlight es una biblioteca de aprendizaje automático en C++ y un framework de aprendizaje profundo diseñado para construir y entrenar redes neuronales. Funciona como una biblioteca de manipulación de tensores y un motor de diferenciación automática que rastrea operaciones para calcular gradientes mediante retropropagación (backpropagation) para la optimización de modelos. El proyecto se distingue por su rol como framework de entrenamiento distribuido, utilizando sincronización de gradientes all-reduce y entornos distribuidos para escalar cargas de trabajo de aprendizaje automático a través de múltiples nodos y dispositivos. Cuenta con una interfaz de memoria agnóstica al backend y gestión basada en RAII para desacoplar las operaciones de tensores del hardware físico. El framework cubre una amplia superficie de capacidades, incluyendo la construcción de arquitecturas de redes neuronales con capas convolucionales, lineales y recurrentes. Proporciona utilidades extensas para álgebra de tensores, gestión y batching de datasets, serialización binaria versionada para estados de modelos y herramientas de monitorización para rastrear métricas de entrenamiento y uso de memoria.
Implements a background thread pool to prefetch dataset samples, increasing sequential access speed during training.