Awesome GitHub RepositoriesComputational Frameworks

Llama is a computational framework and runtime environment designed for executing transformer-based neural networks locally. It functions as a generative AI inference engine, enabling the processing of input sequences through pre-trained model weights to produce text completions and structured data outputs directly on your own hardware. The system distinguishes itself through specialized memory and computation management techniques, including memory-mapped weight loading and quantization-aware inference, which allow for efficient execution on standard consumer hardware. It utilizes a stateles

Detectron2 is a PyTorch computer vision framework and visual recognition platform designed for training and deploying models for object detection, image segmentation, and visual recognition. It provides a research-oriented environment for training complex vision models with multi-GPU acceleration. The project includes a specialized object detection library for identifying and locating multiple objects via bounding boxes, as well as an image segmentation toolkit for creating pixel-level masks through instance, semantic, and panoptic segmentation. Additionally, it features a human pose estimati

This project is a structured educational resource and training platform designed for mastering deep learning development. It provides a comprehensive curriculum focused on building, evaluating, and refining predictive models through hands-on coding exercises and standard industry workflows. The curriculum emphasizes practical implementation, guiding users through the construction of neural network architectures and the application of transfer learning to adapt pretrained models for custom tasks. It includes methodologies for tracking and comparing model experiment results, allowing for the sy

This project is an open source deep learning textbook and educational resource. It provides a structured curriculum of theory and practical examples designed for mastering the training of regression, classification, and generative models using the TensorFlow framework. The repository functions as a machine learning code collection, utilizing interactive notebooks and source code to demonstrate neural network implementation and tensor operations. It covers the development of deep learning models and the study of reinforcement learning. The material employs a case-study driven pedagogy, combin

ConvNetJS is a JavaScript deep learning library and neural network training engine designed for client-side machine learning. It functions as a framework for building, training, and running convolutional neural networks directly within a web browser without the need for a backend server. The library specializes in image recognition and pattern analysis using convolutional and pooling layers. It enables the creation of models for classification and regression tasks, as well as the development of reinforcement learning agents that optimize behavior through trial and error in simulated environme

Sonnet is a modular machine learning framework and TensorFlow library used for building, training, and managing deep learning models. It functions as a system for composing neural networks from reusable modules and layers that encapsulate their own parameters and internal states. The project provides specialized tools for distributed model training, enabling the synchronization of gradients across multiple hardware devices. It also serves as a model state management system, allowing for the persistence of neural network weights and the export of portable models that separate the computation g

torchdiffeq ist eine PyTorch-ODE-Solver-Bibliothek für die Lösung von Anfangswertproblemen und den Aufbau von Neural-ODE-Frameworks. Sie bietet einen differenzierbaren ODE-Integrator, der es Deep-Learning-Modellen ermöglicht, kontinuierliche Tiefe durch die Integration von Dynamikfunktionen über die Zeit zu simulieren. Die Bibliothek verfügt über einen Adjoint-Methoden-Gradientenrechner für speichereffiziente Backpropagation. Durch das Lösen eines erweiterten Adjoint-Systems rückwärts in der Zeit berechnet sie Parametergradienten, ohne jeden Zwischenzustand des Solvers speichern zu müssen. Das Projekt deckt numerische Integration mit adaptiven und festen Schrittweiten-Solvern ab, inklusive Fehlerkontrolle und polynomialer Zustandsinterpolation. Es unterstützt zudem differenzierbares Event-Management, um Solver zu beenden, wenn bestimmte Skalarfunktionen auslösen, und Gradienten durch die Event-Zeit zu propagieren. Das Framework wird für Anwendungen wie Continuous Normalizing Flows und die Transformation von Wahrscheinlichkeitsverteilungen durch gelernte, zeitkontinuierliche gewöhnliche Differentialgleichungen eingesetzt.

This project is a collection of educational Jupyter Notebooks providing tutorials on neural network construction and tensor operations using the TensorFlow framework. It serves as a machine learning educational repository and implementation guide for deep learning students. The suite focuses on specific advanced architectures, including convolutional networks for image classification, residual networks with skip connections for training stability, and variational autoencoders for generative modeling and data synthesis. It also includes guides for building denoising and deep autoencoders to pe

Cactus ist eine On-Device-KI-Inferenz-Engine für die Ausführung von Large Language Models (LLMs), Vision-Modellen und Speech-to-Text-Systemen auf Mobil- und Wearable-Hardware. Sie bietet einen programmierbaren Tensor-Berechnungsgraphen zur Definition von Matrixoperationen und Aktivierungsfunktionen sowie ein lokales RAG-Framework (Retrieval Augmented Generation), das Modellantworten auf Basis lokaler Textdateien fundiert. Das Projekt umfasst ein Multiplattform-SDK mit Sprachbindungen zur Integration von KI-Funktionen in mobile Apps sowie ein Modellkonvertierungssystem, das externe Modellformate für eine optimierte lokale Ausführung transformiert. Es nutzt ein hybrides Routing-System, um Workloads je nach Hardwarekapazität zwischen On-Device-Ausführung und Cloud-Anbietern umzuleiten. Die Engine deckt ein breites Funktionsspektrum ab, einschließlich On-Device-Audioverarbeitung für Spracherkennung, Vektor-Embedding-Generierung für Ähnlichkeitssuche und Tool-Integration zur Analyse von Modellausgaben für externe Funktionsaufrufe. Diese Prozesse werden durch optimierte native Kernel unterstützt, die auf niedrige Latenz auf mobiler Hardware abgestimmt sind.

Caffe ist ein leistungsstarkes Deep-Learning-Framework und eine Bibliothek für Convolutional Neural Networks, die für das Training und Deployment neuronaler Netze entwickelt wurde. Es fungiert als GPU-beschleunigte Machine-Learning-Engine mit einem in C++ implementierten Kern, um Tensor-Operationen mit hohem Durchsatz zu ermöglichen. Das Projekt nutzt ein deklaratives Konfigurationssystem, bei dem Modellarchitekturen und Hyperparameter in externen Textdateien definiert werden, wodurch das Netzwerkdesign vom Ausführungscode getrennt wird. Es enthält ein Modell-Serialisierungssystem, um trainierte Gewichte und Topologien für ein effizientes Deployment in verschiedenen Hardwareumgebungen in Binärdateien zu exportieren. Das Framework deckt ein breites Spektrum an Funktionen ab, einschließlich des Designs neuronaler Netzwerkarchitekturen, des überwachten Modelltrainings mit gradientenbasierter Optimierung und Workflows für die Bildklassifizierung. Es bietet Tools für die Dataset-Vorverarbeitung, die Extraktion neuronaler Features und das Fine-Tuning vortrainierter Modelle. Der C++-Kern ist über eine mehrsprachige Schnittstelle mit offiziellen Bindings für Python und MATLAB zugänglich.

oneDNN is a library for deep learning acceleration that provides optimized building blocks for neural network training and inference. It manages tensor computation across CPU and GPU hardware, enabling the execution of high-performance primitives for model training and neural network inference optimization. The project distinguishes itself through hardware-specific kernel optimization and the use of just-in-time compilation to target specific processor instruction sets. It supports quantized neural network execution using both static and dynamic quantization to reduce memory usage and increas

PyTorchZeroToAll ist eine Bildungsressource und eine Sammlung von Tutorials, die sich auf Deep Learning und das PyTorch-Framework konzentrieren. Sie bietet einen strukturierten Lernpfad für die Implementierung neuronaler Netzwerkarchitekturen, der von grundlegender Sprachsyntax und Grundlagen bis hin zu komplexem Modelldesign reicht. Das Projekt dient als Implementierungsleitfaden für den Aufbau verschiedener Netzwerktypen, einschließlich linearer, logistischer, konvolutionsbasierter und rekurrenter Netzwerke. Es behandelt spezifisch den Workflow für die Sequenzmodellierung durch die Verwendung von Attention-Mechanismen und zeichenbasierten Netzwerken. Die Ressource deckt zudem die Datenvorbereitung für Machine Learning ab, einschließlich der Verwendung benutzerdefinierter Dataset-Loader, Textverarbeitungswerkzeuge und der Übersetzung von Rohquelldateien in Tensoren für Trainings-Pipelines.

This is a TensorFlow-based framework for implementing and training capsule networks designed for image classification. It utilizes a tensor graph neural network model to build architectures that preserve spatial relationships and pose parameters through vector-based neuron groupings. The project implements a dynamic routing mechanism to establish hierarchical relationships between input features and output capsules. To handle complex architectures, it includes a distributed deep learning toolset that enables training across multiple graphics processing units. The framework covers the full ma

Taco is a sparse tensor algebra compiler that translates high-level tensor index expressions into optimized machine code. It functions as a numerical code generator, producing specialized C kernels designed to execute complex multidimensional array operations efficiently on both CPU and GPU hardware. The project distinguishes itself by allowing users to define custom tensor storage layouts by composing dimension-level formats, such as dense or compressed structures, to match the specific sparsity patterns of their datasets. By analyzing the mathematical structure of tensor operations at compi

This project provides a clean implementation of the latent diffusion model architecture using the PyTorch framework. It functions as a generative machine learning pipeline designed to synthesize images from text prompts by loading pre-trained model weights into a modular neural network structure. The implementation focuses on the mechanics of image generation, utilizing a tensor-based computational graph to execute the complex linear algebra required for inference. It incorporates transformer-based text encoding to map natural language into vector embeddings, which are then integrated into th