1 Repo
Awesome GitHub RepositoriesData Prefetching
Asynchronous loading of dataset samples into memory ahead of their consumption in the training pipeline.
Distinct from Database Performance Sampling: Distinct from Database Performance Sampling: focuses on asynchronous pre-loading for ML training pipelines rather than statistical retrieval for tuning.
Explore 1 awesome GitHub repository matching data & databases · Data Prefetching. Refine with filters or upvote what's useful.
Awesome Data Prefetching GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- facebookresearch/flashlight
facebookresearch/flashlight
5,443Auf GitHub ansehenFlashlight ist eine C++-Bibliothek für maschinelles Lernen und ein Deep-Learning-Framework zur Erstellung und zum Training neuronaler Netze. Es fungiert als Tensor-Manipulationsbibliothek und Engine für automatische Differenzierung, die Operationen verfolgt, um Gradienten via Backpropagation für die Modelloptimierung zu berechnen. Das Projekt zeichnet sich durch seine Rolle als Framework für verteiltes Training aus, das All-Reduce-Gradientensynchronisation und verteilte Umgebungen nutzt, um Machine-Learning-Workloads über mehrere Nodes und Geräte hinweg zu skalieren. Es verfügt über eine Backend-agnostische Speicherschnittstelle und RAII-basiertes Management, um Tensor-Operationen von der physischen Hardware zu entkoppeln. Das Framework deckt ein breites Funktionsspektrum ab, einschließlich der Konstruktion neuronaler Netzwerkarchitekturen mit konvolutiven, linearen und rekurrenten Schichten. Es bietet umfangreiche Utilities für Tensor-Algebra, Dataset-Management und Batching, versionierte Binärserialisierung für Modellzustände sowie Überwachungswerkzeuge zur Verfolgung von Trainingsmetriken und Speicherauslastung.
Implements a background thread pool to prefetch dataset samples, increasing sequential access speed during training.
C++
