Awesome GitHub RepositoriesComputational Graph Frameworks

This repository serves as a structured educational resource for machine learning and deep learning, providing a library of executable scripts and notebooks. It is designed to help users master the practical application of data processing, model evaluation, and neural network construction through annotated code samples and guided tutorials. The collection focuses on translating theoretical mathematical concepts into functional code, offering proven patterns for common tasks such as classification and regression. By providing curated examples of layer construction and training loops, the reposi

Theano is a Python mathematical expression compiler and symbolic math library used as a deep learning backend. It functions as a tensors computation framework that translates mathematical formulas into optimized C or CUDA code for high-performance computing. The system manages the definition and evaluation of complex math formulas using multi-dimensional arrays. It employs a symbolic expression graph and a lazy evaluation engine to optimize mathematical expressions before they are compiled into executable code. The framework provides automatic differentiation for calculating gradients of mat

Dies ist ein Lehrplan für die Entwicklung und das Training neuronaler Netze mit PyTorch. Er dient als Trainingsleitfaden für Deep Learning und bietet eine strukturierte Reihe von Lektionen zu Tensor-Berechnungen und Architektur-Entwicklung. Der Kurs nutzt ein interaktives Lernmodell, das akademische Theorie mit Praxis synchronisiert. Er kombiniert theoretische Vorlesungsfolien mit übungsbasierten Notebooks, bei denen Studierende Modell-Logik innerhalb vordefinierter Templates implementieren müssen, um ihr konzeptionelles Verständnis zu validieren. Der Lehrplan deckt ein breites Spektrum an Deep-Learning-Fähigkeiten ab, einschließlich Modelloptimierung durch Gradientenabstieg und Regularisierung sowie die Implementierung von Convolutional-, Recurrent- und Transformer-Architekturen. Er enthält zudem Anleitungen zur Verarbeitung multimodaler Daten und zur Anwendung von selbstüberwachtem Lernen (Self-Supervised Learning) durch kontrastive Methoden und Autoencoder. Die Inhalte werden über eine modulare Sequenz von Jupyter Notebooks vermittelt.

Dieses Projekt ist eine Deep-Learning-Tutorial-Serie und ein Bildungslehrplan, der entwickelt wurde, um PyTorch-Grundlagen zu vermitteln. Er dient als strukturierter Trainings-Guide zur Beherrschung neuronaler Netzwerkarchitekturen, automatischer Differenzierung sowie der Verwendung von Tensoren und dynamischen Berechnungsgraphen. Der Lehrplan konzentriert sich auf praktische Implementierungen und leitet gezielt die Entwicklung von Empfehlungssystemen, Werbemodellen und Interest-Networks an, um Benutzerpräferenzen vorherzusagen. Zudem bietet er instruktive Inhalte für Zeitreihenprognosen und die Verarbeitung sequenzieller Daten. Das Material deckt ein breites Spektrum an Deep-Learning-Funktionen ab, einschließlich der Konstruktion von Modellen für Bild- und Textklassifizierung sowie strukturierter Daten. Es integriert Workflows für GPU-Beschleunigung, Visualisierung von Trainingsmetriken und die Erstellung webbasierter Interfaces zum Testen von Modellvorhersagen. Das Projekt wird als Sammlung von Jupyter Notebooks bereitgestellt.

Chainer is an open-source deep learning framework built around define-by-run automatic differentiation, where computation graphs are constructed dynamically during forward execution. This imperative approach allows networks to be built using standard Python control flow, with gradients computed automatically through reverse-mode differentiation on the dynamically recorded graph. The framework supports GPU acceleration through a NumPy-compatible array backend with CUDA and cuDNN support, and provides a pluggable device abstraction that lets users switch between CPU and GPU computation without c

Gorgonia is a Go library that provides an automatic differentiation engine and a computation graph framework for building and training neural networks. It functions as a CUDA-accelerated tensor library and a SIMD-optimized math library, enabling machine learning workflows entirely within the Go ecosystem. The library distinguishes itself through a dual-backend architecture that dispatches neural network operations to either a GPU or CPU depending on CUDA availability at runtime. It constructs differentiable directed acyclic graphs of tensor operations, supports reverse-mode automatic gradient

Dieses Projekt ist eine Bildungsressource für Deep Learning, bestehend aus PyTorch-Modellimplementierungen und Codebeispielen. Es bietet funktionale Python-Skripte und Notebooks für den Aufbau, das Training und die Optimierung neuronaler Netzwerke mittels Tensor-basierter Berechnung. Das Repository enthält Implementierungen für den Entwurf benutzerdefinierter Netzwerkschichten und Verlustfunktionen sowie Beispiele für Transfer-Learning-Workflows, die vortrainierte Modellgewichte laden, um die Entwicklung zu beschleunigen. Die Codebasis deckt ein breites Spektrum an Deep-Learning-Funktionen ab, einschließlich Training neuronaler Netzwerke, Design benutzerdefinierter Modellkomponenten und die Implementierung mehrschichtiger Architekturen zur Erkennung komplexer Muster in Datensätzen.

Edward ist eine probabilistische Programmiersprache und Inference-Engine für den Aufbau tiefer generativer Modelle und Bayes'scher neuronaler Netze. Es nutzt das TensorFlow-Framework, um probabilistische Modelle als differenzierbare Berechnungsgraphen darzustellen. Die Bibliothek ermöglicht die Konstruktion komplexer Datenverteilungen durch Bayes'sche neuronale Netze, Mischmodelle und Gauß-Prozesse. Sie zeichnet sich durch ein integriertes Toolkit für überwachtes und unüberwachtes probabilistisches Modellieren aus, einschließlich der Implementierung von Generative Adversarial Networks (GANs) und Mixture Density Networks. Das Framework deckt eine breite Palette an Inferenzmethoden ab, darunter amortisierte variationelle Inferenz, Gibbs-Sampling und Maximum-a-posteriori-Schätzung. Zudem enthält es eine umfassende Suite an Tools zur Modellevaluierung für Posterior Predictive Checking, Residualanalyse und Parametervalidierung, um die Modellgüte und Vorhersagegenauigkeit zu diagnostizieren. Das System unterstützt skalierbares Training durch Batch- und Minibatch-Verarbeitung sowie integrierte Funktionen zur Überwachung des Trainingsfortschritts und zur Visualisierung von Ausführungsgraphen.

MegEngine ist ein Deep-Learning-Framework und eine Engine für automatische Differenzierung, die zum Trainieren und Bereitstellen neuronaler Netze verwendet wird. Sie fungiert als Bibliothek für differenzierbare Programmierung, die die Erstellung mathematischer Modelle ermöglicht, bei denen Operationen für gradientenbasierte Optimierung differenzierbar sind. Das Projekt bietet eine Hardware-agnostische Tensor-Runtime und eine plattformübergreifende Modell-Runtime, die es Modellen ermöglicht, über diverse CPU- und GPU-Hardwarearchitekturen hinweg ausgeführt zu werden. Es nutzt eine dynamische Computational-Graph-Engine, um Ausführungsgraphen zur Laufzeit zu erstellen, und unterstützt flexible Eingabeformen sowie komplexe Kontrollflüsse. Das Framework deckt den gesamten KI-Modell-Lebenszyklus ab, vom iterativen Modelltraining und der Validierung bis hin zum plattformübergreifenden Deployment. Es integriert eine Pipeline für automatische Differenzierung zur Berechnung von Gradienten und bietet Tools zum Exportieren trainierter Modelle, um diese effizient über verschiedene Hardwareplattformen hinweg auszuführen.

Dieses Projekt ist eine umfassende Lehrressource und ein Kurs zum Aufbau neuronaler Netze mit PyTorch. Es deckt die grundlegenden Bausteine des Deep Learning ab, einschließlich Tensor-Manipulation, automatischer Differenzierung und der Konstruktion modularer Komponenten für neuronale Netze. Das Repository dient als technischer Leitfaden für verschiedene spezialisierte Bereiche. Es bietet Implementierungsdetails für Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und semantische Segmentierung sowie Workflows für die Verarbeitung natürlicher Sprache (NLP) mit Transformern, rekurrenten Netzen und generativen Modellen. Zudem enthält es eine Referenz für generative KI, mit Fokus auf die Synthese von Bildern mittels Diffusionsmodellen und adversarialen Netzwerken. Das Material erstreckt sich auf Modelloptimierung und Deployment-Pipelines. Es behandelt Techniken zur Reduzierung der Modellgröße und zur Erhöhung der Inferenzgeschwindigkeit durch Quantisierung und den Export von Modellen in Formate wie ONNX und TensorRT. Weitere Kompetenzbereiche umfassen Data Engineering für paralleles Laden, Modellevaluierung mittels benutzerdefinierter Metriken und das Deployment von Open-Source Large Language Models. Das Projekt wird primär als eine Reihe von Jupyter Notebooks bereitgestellt.

This repository serves as a structured educational resource for learning to build, train, and deploy neural networks using the PyTorch framework. It provides a collection of practical code examples and tutorials designed to guide practitioners through the implementation of deep learning models. The project covers a broad range of machine learning domains, including computer vision, natural language processing, generative modeling, and reinforcement learning. By utilizing modular components and automated gradient computation, the materials demonstrate how to construct complex architectures and