Awesome GitHub RepositoriesDistributed GPU Training

This project is a TensorFlow and Keras implementation of the Mask R-CNN architecture. It provides a framework for performing simultaneous object detection and instance segmentation, transforming raw images into segmented masks and bounding boxes for individual object identification. The toolset enables custom computer vision training through fine-tuning pre-trained weights and integrating user-provided datasets. It includes capabilities for distributed GPU training to accelerate the optimization of large vision models. The framework covers model evaluation using standard precision metrics an

This project is a collection of optimized scripts, deployment patterns, and reference implementations designed for scaling and accelerating state-of-the-art AI models. It serves as a multi-domain model zoo and a distributed training framework, providing PyTorch reference implementations for training and deploying models on GPU-accelerated infrastructure. The repository distinguishes itself through an optimization suite focused on NVIDIA GPU hardware, utilizing automatic mixed precision and specialized math modes to increase training speed and throughput. It provides enterprise deployment patt

TRELLIS is a 3D generative AI model and latent diffusion framework designed to transform natural language descriptions or reference images into textured 3D assets. It operates as a text-to-3D asset generator that utilizes structured latent representations to produce high-quality 3D meshes, Gaussians, and Radiance Fields. The system functions as a multi-format 3D decoder, converting internal representations into standard exchange formats such as GLB and PLY. It also serves as a 3D asset editing tool, enabling the modification of specific regions of generated objects through targeted text or im

This is a PyTorch implementation of a text-to-image model designed for synthesizing high-fidelity images from natural language descriptions. It utilizes a diffusion image generator to transform latent embeddings into visual data through an iterative denoising process. The system employs a two-stage latent mapping process, using a CLIP-based latent prior to map text embeddings to image embeddings before decoding them into pixels. It features a cascading diffusion decoder that produces high-resolution imagery by passing low-resolution outputs through a sequence of models at increasing scales.

Implementation of Denoising Diffusion Probabilistic Model in Pytorch

Apex is a high-performance toolkit for PyTorch designed to coordinate distributed training, execute fused GPU kernels, manage mixed precision, and implement optimized distributed optimizers. It provides specialized tools for scaling model training across multiple GPUs and nodes to increase processing speed and throughput. The library features high-performance implementations of Adam and LAMB optimizers to reduce synchronization overhead and memory bottlenecks. It utilizes fused CUDA kernels to combine neural network operations, reducing memory overhead and increasing execution speed. The too

pysheeet ist eine technische Referenzbibliothek, die eine kuratierte Sammlung von Code-Snippets und Implementierungsmustern für fortgeschrittene Python-Entwicklung, Systemintegration und High-Performance-Computing bereitstellt. Sie dient als umfassender Leitfaden für die Implementierung von Low-Level-Netzwerkprogrammierung, nativen C-Erweiterungen sowie asynchroner und nebenläufiger Programmierung. Das Projekt bietet spezialisierte Frameworks für die Entwicklung und Bereitstellung von Large Language Models, einschließlich Werkzeugen für verteilte GPU-Inferenz und High-Performance-Serving. Es enthält zudem detaillierte Muster für die Orchestrierung von High-Performance-Computing-Clustern, die GPU-Ressourcenzuweisung und Multi-Node-Workload-Management abdecken. Die Bibliothek deckt ein breites Spektrum an Funktionen ab, einschließlich sicherer Netzwerkkommunikation und Kryptografie, Object-Relational-Mapping und Datenbankverwaltung sowie die Implementierung komplexer Datenstrukturen und Algorithmen. Sie bietet zudem Utilities für Speicherverwaltung, native Interoperabilität via Foreign-Function-Interfaces und systemnahe OS-Integration.

Dieses Projekt ist ein PyTorch-Objekterkennungs-Framework, das die Faster R-CNN-Architektur implementiert. Es dient als Vision-Modell zur Vorhersage präziser Begrenzungsrahmen um mehrere Objekte in Bildern und Live-Video-Feeds. Das System ist für Multi-GPU-Training optimiert, um die für die Modellkonvergenz erforderliche Zeit zu reduzieren. Es nutzt ein GPU-beschleunigtes Design, um das Training und die Inferenz komplexer Erkennungsnetzwerke zu handhaben. Das Framework deckt den gesamten Lebenszyklus der Objekterkennung ab, einschließlich benutzerdefiniertem Netzwerk-Training und Inferenz für statische Bilder und Echtzeit-Videostreams. Es enthält Funktionen zur Validierung der Modellleistung unter Verwendung standardisierter Datensätze sowie Trainingsoptimierungen wie Gruppierung nach Seitenverhältnis und verteilte Workloads.

Threestudio is a 3D generative AI framework designed to create three-dimensional assets from text prompts and images. It provides specialized pipelines for text-to-3D generation and image-to-3D reconstruction, utilizing a neural radiance field trainer to produce geometry and textures. The framework is distinguished by its support for hybrid geometry backends, including signed distance functions, tetrahedra grids, and volume grids. It employs score distillation sampling to guide the generation process and features a modular plugin system for loading custom modules and nodes. The system covers

This project is a neural machine translation system used to build models that automatically translate text from one language to another. It utilizes sequence-to-sequence modeling to transform variable-length input sequences into corresponding output sequences. The system implements bidirectional recurrent neural network encoding and attention mechanisms to capture contextual information and focus on specific parts of the source text during translation. To manage training and inference, it employs separate computational graphs and supports distributing model layers across multiple GPU devices.

PyTorch Metric Learning is an open-source library for training neural networks to produce similarity-preserving embedding spaces. It provides a modular framework where interchangeable loss functions, mining strategies, and evaluation tools can be composed to learn representations that map similar items to nearby points and dissimilar items to distant points in the embedding space. The library distinguishes itself through a highly configurable architecture that separates concerns across several interchangeable components. Users can assemble custom loss functions from pluggable distance metrics

Tensorpack ist ein High-Level-TensorFlow-Framework für neuronale Netze und eine Forschungsbibliothek für den Aufbau und das Training von Deep-Learning-Modellen. Es bietet eine Sammlung reproduzierbarer Architekturen neuronaler Netze für Computer Vision, generative Aufgaben, Reinforcement Learning und Natural Language Processing. Das Projekt zeichnet sich durch eine spezialisierte Deep-Learning-Daten-Pipeline aus, die reines Python für paralleles Datenladen und Streaming verwendet. Es enthält einen Multi-GPU-Trainings-Orchestrator zur Verteilung von Workloads mittels Data-Parallel-Strategien und ein dediziertes Interpretierbarkeits-Toolkit zur Visualisierung von Modell-Saliency- und Aktivierungskarten. Das Framework deckt ein breites Spektrum an Funktionen ab, einschließlich Computer-Vision-Pipelines für Objekterkennung und semantische Segmentierung, Sequenzmodellierung für Sprache und Text sowie die Entwicklung von Reinforcement-Learning-Agenten. Es bietet zudem Modelloptimierungstools für Gewichtsquantisierung und Low-Bitwidth-Training sowie Utilities zur Reproduktion akademischer Forschungsarbeiten und zur Konvertierung von Legacy-Caffe-Modellgewichten.

This repository provides a complete framework for training generative adversarial networks (GANs) that produce high-resolution photorealistic images, up to 1024 by 1024 pixels. The core technique is progressive layer growth, where both the generator and discriminator networks start training at low resolution and gradually add new layers to model finer details, enabling stable synthesis of large images. The framework includes a high-resolution image generator, an image quality metric evaluator, a latent space interpolation tool for creating smooth transition videos, and a multi-resolution datas

Gluon-CV ist eine MXNet-Computer-Vision-Bibliothek, die eine umfassende Sammlung vortrainierter Vision-Architekturen und Trainings-Pipelines bereitstellt. Sie dient als Deep-Learning-Research-Toolkit und Model-Zoo mit State-of-the-Art-Gewichten für die Bild- und Videoanalyse. Das Projekt enthält eine spezialisierte Bibliothek für Human-Pose-Estimation sowie ein Toolkit zur Modellkompression. Diese Tools ermöglichen das Pruning und die Quantisierung von Deep-Learning-Modellen, um die Inferenzgeschwindigkeit zu erhöhen und die Bereitstellung auf ressourcenbeschränkter Edge-Hardware zu erleichtern. Die Bibliothek deckt ein breites Spektrum an Vision-Funktionen ab, darunter Bildklassifizierung, Objekterkennung sowie semantische und Instanz-Segmentierung. Sie bietet zudem Tools für die Videoanalyse, wie Action-Recognition, Objekt-Tracking und monokulare Tiefenschätzung. Das Training wird durch automatisierte Pipelines und verteilte Multi-GPU-Workloads unterstützt, um die Modellkonvergenz zu beschleunigen.

This project is a PyTorch implementation of a text-to-image transformer. It is a generative AI model designed to map discrete text tokens to image pixels using a transformer network to create visual content from textual descriptions. The system utilizes a discrete VAE image encoder to compress visual data into tokens for transformer processing. It supports classifier-free guidance to adjust the influence of text prompts during inference and includes capabilities for ranking generated images based on their similarity to text prompts. The architecture incorporates sparse attention mechanisms a

PCDet ist eine Toolbox für LiDAR-3D-Objekterkennung und eine Bibliothek zur Punktwolkenverarbeitung, die auf dem Deep-Learning-Framework PyTorch basiert. Es bietet ein System zur Identifizierung und Lokalisierung dreidimensionaler Objekte innerhalb von Punktwolkendaten. Das Projekt nutzt ein Daten-Modell-Trennungs-Muster, um die Logik zum Laden von Datensätzen von der Kern-Erkennungs-Pipeline zu entkoppeln. Es verfügt über eine Multi-Sensor-Fusions-Pipeline, die Daten von mehreren Sensoren in einer gemeinsamen räumlichen Ansicht kombiniert, sowie ein verteiltes GPU-Trainingssystem zur Skalierung von Workloads über mehrere Grafikprozessoren. Das Toolkit deckt verschiedene Funktionsbereiche ab, darunter voxelbasierte Merkmalsextraktion und zeitliche Punktwolkenanalyse durch Multi-Frame-Fusion. Es integriert zudem Leistungsoptimierungen für GPU-beschleunigte 3D Intersection-over-Union und Rotated Non-Maximum Suppression.

Neuraltalk2 ist ein Deep-Learning-Vision-System, das für die automatische Bildbeschreibung (Image Captioning) entwickelt wurde. Es basiert auf PyTorch und nutzt eine hybride Architektur, die einen Convolutional Neural Network-Encoder mit einem Recurrent Neural Network-Decoder kombiniert, um Textbeschreibungen aus visuellen Eingaben zu generieren. Das Projekt bietet eine GPU-beschleunigte Trainings-Pipeline, die in der Lage ist, Arbeitslasten über mehrere Grafikprozessoren hinweg durch Multi-Prozess-Verteilung zu verteilen. Es unterstützt die Generierung von Beschreibungen sowohl für statische Bilddateien als auch für Echtzeit-Videostreams. Das Framework umfasst Funktionen für Encoder-Fine-Tuning, Beam-Search-Text-Sampling mit Temperatursteuerung und die Verwendung branchenüblicher Sprachmetriken zur Bewertung der Genauigkeit und Flüssigkeit der Beschreibungen. Es bietet zudem Utilities für die Datenvorverarbeitung, die Persistenz von Modell-Checkpoints und den Export von Vorhersagen in strukturierte JSON-Dateien. Die Implementierung wird als Jupyter Notebook bereitgestellt.

ZenML is an extensible machine learning orchestration framework designed to manage the end-to-end lifecycle of data pipelines and AI agent workflows. It functions as a durable orchestrator that executes machine learning tasks as directed acyclic graphs, ensuring that every step is containerized for consistent performance across local, cloud, and hybrid infrastructure. By decoupling pipeline code from underlying compute and storage backends, the platform allows developers to define infrastructure-agnostic stacks that remain portable across diverse environments. The project distinguishes itself

Dies ist eine PyTorch-Deep-Learning-Implementierung für das Training von Transformer-basierten Sprachmodellen. Sie fungiert als verteiltes GPU-Training-Framework, das darauf ausgelegt ist, Textvorhersagemodelle für erhöhte Geschwindigkeit und Sample-Effizienz zu optimieren. Das Projekt zeichnet sich durch die Verwendung des Newton-Schulz-Gewichtsoptimierers aus. Diese Methode wendet einen iterativen Prozess an, um semi-orthogonale Parameter-Updates und Gewichtsmatrizen beizubehalten, was die Sample-Effizienz verbessert und den Speicher-Overhead während des Trainingsprozesses reduziert. Das Framework deckt breite Funktionen im Bereich verteiltes GPU-Computing ab, einschließlich Datenparallelität zur Skalierung von Workloads über mehrere Grafikprozessoren hinweg. Zudem integriert es Optimierungstechniken für neuronale Netze wie iterative Momentum-Optimierung und High-Throughput-Batch-Processing.

Dieses Projekt ist ein neuronales Text-to-Speech-Framework und ein PyTorch-Modell, das darauf ausgelegt ist, menschliche Sprache zu synthetisieren. Es konvertiert geschriebenen Text in synthetisches Audio durch die Vorhersage von Mel-Spektrogrammen, die als Zwischenrepräsentation für die Stimmgenerierung dienen. Das System enthält ein Konditionierungsmodell für WaveNet, um eine natürlich klingende Audioausgabe sicherzustellen. Es bietet ein verteiltes Trainings-Framework, das Multi-GPU-Verarbeitung und automatische Mixed-Precision nutzt, um die Trainingsgeschwindigkeit zu optimieren und den Speicherverbrauch zu reduzieren. Das Projekt deckt die gesamte Pipeline der neuronalen Sprachsynthese ab, vom Modelltraining unter Verwendung von Text- und Audiodatensätzen bis zur Generierung künstlicher Stimmen. Es verwendet einen konvolutionalen Encoder-Decoder und Sequence-to-Sequence-Attention, um sprachliche Merkmale auf akustische Frames abzubilden.