Awesome GitHub RepositoriesDataset Batch Loading

PyTorch Geometric is a library for building and training machine learning models on graph-structured data. It provides a framework for developing graph neural networks, including a specialized system for implementing node-to-node information exchange via customizable message passing, aggregation, and update functions. The library includes a sparse data processing toolkit that utilizes accelerated CPU and CUDA kernels to perform efficient reductions on large sparse datasets. It supports the creation of specialized architectures for structured data such as 3D meshes and point clouds. The proje

This is a TensorFlow learning course and machine learning education resource. It is a notebook-based interactive course that provides a deep learning tutorial series and a guide to the Keras API through executable Python code and formatted text. The material focuses on deep learning education, covering the implementation of TensorFlow models and the design of neural network architectures such as multilayer perceptrons and convolutional networks. It includes instructional content on constructing custom training loops and dataset generators for data pipeline engineering. The course covers mach

ParlAI is a conversational AI research framework designed for training, evaluating, and sharing dialogue models using a unified interface for datasets and agents. It functions as a PyTorch-based training platform and a dialogue data collection system, providing a centralized model zoo for the distribution of versioned pretrained agents. The project distinguishes itself through a knowledge-grounded retrieval system that combines dense and sparse indexing to ground responses in external information. It also provides a comprehensive infrastructure for gathering human-AI interaction data via inte

This project is a structured learning curriculum and technical reference for mastering deep learning with TensorFlow. It provides a comprehensive guide for building, training, and deploying neural networks, combining theoretical fundamentals with practical implementation examples. The repository distinguishes itself by covering the end-to-end machine learning workflow, from low-level tensor mathematics and linear algebra to the creation of complex model architectures. It includes specific guidance on developing data pipelines for diverse data types, such as images, text, and time-series seque

This project is a collection of PyTorch learning resources and educational guides designed to teach the construction and training of neural networks. It serves as a comprehensive deep learning tutorial covering various model architectures and practical implementation strategies. The resources provide specific guidance on implementing computer vision tasks, such as image classification and synthetic imagery generation, as well as reinforcement learning agents using value networks and experience replay. It also covers sequential data modeling through recurrent networks and generative modeling u

DeepPavlov is a conversational AI framework and deep learning NLP library designed for building end-to-end dialogue systems and chatbots. It functions as an NLP pipeline orchestrator that allows users to compose pre-trained models and text processing components into sequential data flows for complex linguistic tasks. The system is distinguished by its ability to act as a chatbot deployment server, exposing trained conversational models as web services via REST and Socket APIs. It utilizes JSON-based pipeline configurations and dynamic variable interpolation to decouple model logic from infras

Lance is a versioned columnar data format and storage engine designed as a multimodal AI lakehouse. It serves as a vector database storage engine and a cloud object store dataset manager, organizing images, video, audio, and embeddings into a unified format optimized for machine learning workflows. The project distinguishes itself by combining a columnar layout for structured data with a specialized blob store for large multimodal tensors. It implements a hybrid search engine that integrates vector similarity search, full-text search, and SQL analytics on a single dataset, supported by a stor

PyTorch Metric Learning is an open-source library for training neural networks to produce similarity-preserving embedding spaces. It provides a modular framework where interchangeable loss functions, mining strategies, and evaluation tools can be composed to learn representations that map similar items to nearby points and dissimilar items to distant points in the embedding space. The library distinguishes itself through a highly configurable architecture that separates concerns across several interchangeable components. Users can assemble custom loss functions from pluggable distance metrics

Flashlight ist eine eigenständige C++-Bibliothek für maschinelles Lernen und Tensor-Berechnungen, die zum Erstellen und Trainieren neuronaler Netze verwendet wird. Sie fungiert als umfassendes Framework für neuronale Netze und Engine für automatische Differenzierung und bietet Werkzeuge zur Konstruktion von Berechnungsgraphen und zur Berechnung von Gradienten via Backpropagation. Das Projekt dient als Framework für verteiltes Training und nutzt All-Reduce-Operationen zur Synchronisation von Gradienten und Parametern über mehrere Rechenknoten und Geräte hinweg. Es zeichnet sich durch eine tiefe Integration von leistungsstarker Tensor-Manipulation, nativer Interoperabilität mit Gerätespeichern und einem System zur Synchronisation von Gewichten über verteilte Worker aus, um das Training großskaliger Modelle zu beschleunigen. Das Framework deckt eine breite Palette an Deep-Learning-Funktionen ab, einschließlich modularer Schichtkomposition für den Entwurf komplexer Architekturen wie Residual-Blöcke und rekurrente Zellen. Es bietet umfangreiche Datenmanagement-Utilities für Ingestion und Prefetching sowie Serialisierungssysteme zur Persistierung von Modellzuständen. Zusätzlich enthält es eine Suite an Überwachungs- und Observability-Tools zur Verfolgung von Trainingsmetriken und zur Messung von Sequenzfehlern. Die Bibliothek ist in C++ implementiert.

Flashlight ist eine C++-Bibliothek für maschinelles Lernen und ein Deep-Learning-Framework zur Erstellung und zum Training neuronaler Netze. Es fungiert als Tensor-Manipulationsbibliothek und Engine für automatische Differenzierung, die Operationen verfolgt, um Gradienten via Backpropagation für die Modelloptimierung zu berechnen. Das Projekt zeichnet sich durch seine Rolle als Framework für verteiltes Training aus, das All-Reduce-Gradientensynchronisation und verteilte Umgebungen nutzt, um Machine-Learning-Workloads über mehrere Nodes und Geräte hinweg zu skalieren. Es verfügt über eine Backend-agnostische Speicherschnittstelle und RAII-basiertes Management, um Tensor-Operationen von der physischen Hardware zu entkoppeln. Das Framework deckt ein breites Funktionsspektrum ab, einschließlich der Konstruktion neuronaler Netzwerkarchitekturen mit konvolutiven, linearen und rekurrenten Schichten. Es bietet umfangreiche Utilities für Tensor-Algebra, Dataset-Management und Batching, versionierte Binärserialisierung für Modellzustände sowie Überwachungswerkzeuge zur Verfolgung von Trainingsmetriken und Speicherauslastung.

Flash Linear Attention is a training framework and inference engine for sequence models that use linear attention and state space mechanisms, designed to process long contexts with reduced memory and compute overhead. It provides hardware-optimized token mixing layers and fused CUDA kernels that minimize memory bandwidth and launch overhead across different GPU architectures, and includes a causal inference engine that generates text token-by-token using cached hidden states for efficient autoregressive decoding. The project supports building hybrid sequence models that interleave standard at

GluonTS ist ein Framework für probabilistische Zeitreihenprognosen, das darauf ausgelegt ist, zukünftige Werte als Wahrscheinlichkeitsverteilungen mit Konfidenzintervallen vorherzusagen. Es unterstützt sowohl das traditionelle Modelltraining als auch Zero-Shot-Forecasting, bei dem vortrainierte Modelle Vorhersagen für neue Serien ohne zusätzliches Training generieren. Das Projekt zeichnet sich durch die Integration einer Vielzahl von Prognoseansätzen in einen einheitlichen Workflow aus. Dies umfasst Deep-Learning-Architekturen wie rekurrente neuronale Netze und kausale Konvolutionen sowie die Integration externer statistischer Modelle, der Prophet-Bibliothek und R-Paketen. Das Toolkit bietet eine umfassende Oberfläche für das Zeitreihen-Data-Engineering, die Datensatzskalierung, -aufteilung und die Transformation roher Zeitdaten in Tensoren abdeckt. Es enthält zudem eine Suite von Evaluierungstools zur Messung von Prognosegenauigkeit und Unsicherheitsintervallen sowie Hilfsmittel zur Datensatzpersistenz unter Verwendung von Formaten wie Arrow und Parquet. Das Framework unterstützt die Bereitstellung von Prognosemodellen innerhalb der Cloud-Infrastruktur.

Dieses Projekt ist ein PyTorch-Projekt-Boilerplate und Trainings-Framework, das darauf ausgelegt ist, die Entwicklung von Deep-Learning-Experimenten zu standardisieren. Es bietet ein strukturiertes Verzeichnis-Layout und eine Reihe von Basisklassen, um neue Projekte zu bootstrappen und einen konsistenten Workflow von der Daten-Pipeline-Konstruktion bis zur Modellausführung sicherzustellen. Das Framework zeichnet sich durch einen zentralisierten Konfigurationsmanager für Hyperparameter aus, der Befehlszeilen-Overrides unterstützt, sowie durch eine Hardware-Beschleunigungsschicht zur Verteilung von Rechenaufgaben auf mehrere Grafikprozessoren. Zudem implementiert es eine Basisklassen-Orchestrierungsschicht, um das Mischen von Datensätzen, die Batch-Generierung und die Validierungs-Splits zu automatisieren. Das System deckt ein breites Spektrum an Trainingsfunktionen ab, einschließlich automatisiertem Metrik-Logging, Checkpoint-basierter Status-Serialisierung zum Fortsetzen des Trainings und Ergebnis-Determinismus durch Seed-Synchronisation. Es enthält zudem Tools zur Überwachung des Trainingsfortschritts und zur Implementierung von Early-Stopping basierend auf Performance-Benchmarks.

This project is a diffusion model training framework and image synthesis pipeline. It provides the tools necessary to train generative models to learn image data distributions through an iterative denoising process. The framework includes a generative model evaluation tool consisting of automated scripts used to measure the quality and accuracy of produced samples. The system covers model training pipelines and performance evaluation for generative diffusion models.

Dieses Projekt ist ein umfassendes Bildungsprogramm und Deep-Learning-Framework, das darauf ausgelegt ist, praktisches Deep Learning mit PyTorch anhand von Notebooks und Codebeispielen zu vermitteln. Es dient als High-Level-Bibliothek zum Erstellen, Trainieren und Bereitstellen neuronaler Netze und fungiert als Modell-Trainings-Orchestrator, der PyTorch-Modelle, Optimierer und Verlustfunktionen koordiniert. Das Projekt bietet spezialisierte Toolkits für Computer Vision, Natural Language Processing und die Vorverarbeitung tabellarischer Daten. Es zeichnet sich durch fortschrittliche Trainingskontrollen aus, wie z. B. diskriminative Lernraten, ein Zwei-Wege-Callback-System zur Anpassung der Trainingslogik und eine High-Level-Learner-Abstraktion, die die Geräteplatzierung und Trainingsschleifen automatisiert. Das Framework deckt ein breites Fähigkeitsspektrum ab, einschließlich der automatisierten Konstruktion von Datenpipelines, der Analyse von Modellarchitekturen und der Leistungsbewertung bei Klassifizierungs-, Regressions- und Segmentierungsaufgaben. Es enthält zudem Dienstprogramme für verteiltes Training über mehrere GPUs, Mixed-Precision-Training zur Speicheroptimierung und spezialisierte Unterstützung für medizinische Bilddaten. Das Projekt wird als eine Reihe von Jupyter Notebooks bereitgestellt.

This project is a PyTorch person re-identification framework designed for training and evaluating models that identify individuals across different camera views. It provides a complete model training pipeline, a deep learning feature extractor for converting images into numeric vectors, and a suite of computer vision benchmarking tools to measure identity retrieval accuracy. The framework includes a specialized transfer learning toolkit that supports layer freezing, staged learning rate optimization, and differential learning rates for fine-tuning pretrained models. It distinguishes itself th

RecBole ist ein PyTorch-basiertes Empfehlungs-Framework, das für das Erstellen, Trainieren und Evaluieren einer Vielzahl von Empfehlungsalgorithmen entwickelt wurde. Es dient als standardisierte Benchmark-Umgebung, die den Vergleich verschiedener Modellarchitekturen unter Verwendung öffentlicher Datensätze und konsistenter Evaluierungsmetriken ermöglicht. Das Projekt bietet spezialisierte Toolkits für sequenzielle Empfehlungen und Knowledge-Graph-Integration, was die Vorhersage von Item-Sequenzen basierend auf der Nutzerhistorie oder die Einbindung von strukturiertem externem Wissen ermöglicht. Es enthält eine dedizierte Hyperparameter-Optimierungs-Engine, die Grid-Search und Bayesian-Optimierung nutzt, um Modellkonfigurationen abzustimmen. Das Framework deckt ein breites Spektrum an Funktionen ab, einschließlich Datenmanagement zur Standardisierung von Interaktionslogs, Trainings-Pipelines mit verteilter Gradienten-Synchronisierung und Mixed-Precision-Ausführung sowie umfassende Evaluierungstools für Kandidaten-Ranking und Diversitätsanalyse. Es unterstützt mehrere Empfehlungstypen, wie allgemeines Collaborative Filtering und Click-Through-Rate-Vorhersage. Die Bibliothek ist in Python implementiert und nutzt PyTorch als zugrunde liegendes Empfehlungs-Framework.

Dieses Projekt ist eine chinesische Übersetzung der technischen Handbücher und API-Referenzen für das PyTorch Deep-Learning-Framework. Es dient als lokalisierte Wissensdatenbank und Referenzmaterial, um die Deep-Learning-Dokumentation für nicht-englischsprachige Nutzer zugänglich zu machen. Die Dokumentation deckt ein umfassendes Spektrum an PyTorch-Funktionen ab, einschließlich der Entwicklung neuronaler Netzwerkmodelle, automatischer Differenzierung und der Implementierung von Backend-Kernels. Sie bietet detaillierte Anleitungen zu verteilten Trainingsstrategien, Modellbereitstellung über Formate wie ONNX und C++ sowie verschiedene Techniken zur Modelloptimierung und Quantisierung. Das Projekt nutzt eine Community-gesteuerte Übersetzungspipeline und ein verteiltes Beitragsmodell, um versionierte Inhalte aktuell zu halten. Technische Materialien sind in Markdown organisiert und werden über Static Site Generation in eine navigierbare Website umgewandelt.

Dieses Projekt ist ein PyTorch-Deep-Learning-Tutorial und eine Bildungsressource. Es bietet einen strukturierten Lehrplan und Schritt-für-Schritt-Anleitungen für das Design, das Training und die Validierung von neuronalen Netzen von Grund auf. Die Ressource enthält spezifische Anleitungen zur Implementierung von Computer Vision mit Fokus auf Objekterkennung und Bildklassifizierung mittels Convolutional Neural Networks (CNNs). Zudem bietet sie Anweisungen zur Optimierung der Modellleistung durch Hardwarebeschleunigung, um die Trainingszeit zu verkürzen. Die Materialien decken den gesamten Lebenszyklus der Modellentwicklung ab, einschließlich Tensor-Operationen, Vorbereitung von Bilddatensätzen sowie der Verwendung von Loss-Funktionen und Optimierern. Auch das Modell-Lifecycle-Management durch Speichern und Neuladen trainierter Gewichte wird behandelt.

AdalFlow is an autonomous AI agent framework and LLM application library designed for building modular workflows. It serves as a model-agnostic interface and RAG pipeline orchestrator, allowing users to develop ReAct agents that utilize iterative reasoning and external tool execution to solve complex tasks. The project distinguishes itself through a prompt optimization system that uses textual gradient descent to automatically refine prompt templates and few-shot examples. It treats model feedback as a differentiable signal, enabling a form of LLM backpropagation to iteratively improve output