Awesome GitHub RepositoriesModel State Persistence

DSPy is a declarative programming framework designed for building complex language model applications. It treats model interactions as modular, composable programs, allowing developers to define task logic through typed class schemas rather than relying on manually written prompts. By organizing workflows into hierarchical, reusable Python objects, the framework enables the construction of sophisticated AI systems that manage state and execution flow independently. The framework distinguishes itself through an automated optimization engine that iteratively refines prompt instructions and few-

This project is a collection of educational examples and code for implementing deep learning architectures using the PyTorch framework. It serves as a tutorial and implementation guide for building various neural network architectures for machine learning tasks. The project provides practical implementations for computer vision, including image classification and neural style transfer, as well as natural language processing examples for building sequence models and language predictors. It also covers generative models using adversarial and variational networks to synthesize or transform visua

Baselines is a comprehensive suite of frameworks for reinforcement learning algorithm implementation, imitation learning, and training orchestration. It provides a library of standardized learning algorithms used to benchmark and replicate research results, alongside a deep learning policy framework for constructing neural network architectures such as multi-layer perceptrons, convolutional networks, and long short-term memory networks. The project includes a specialized imitation learning toolkit that enables agents to mimic expert behavior through behavior cloning and generative adversarial

Second-Me is a framework for orchestrating local agent tasks and fine-tuning personal language models. It provides a system for training specialized assistants on local datasets to support custom knowledge retrieval and task execution requirements. The project distinguishes itself through a modular architecture that manages the lifecycle of machine learning tasks. It includes a state manager that persists intermediate training progress to local storage, allowing for the interruption and resumption of long-running configuration processes. Furthermore, the system utilizes standardized protocols

Nerfstudio ist ein modulares Entwicklungs-Framework zum Trainieren, Visualisieren und Exportieren dreidimensionaler Szenendarstellungen, die aus zweidimensionalen Bilddatensätzen abgeleitet wurden. Es bietet eine neuronale Szenenrekonstruktions-Pipeline, die Rohbilder und Kameradaten in hochauflösende 3D-Assets und filmische Videos unter Verwendung eines differenzierbaren volumetrischen Renderers umwandelt. Das System verfügt über einen interaktiven webbasierten Visualisierer, der es Nutzern ermöglicht, den Trainingsfortschritt zu überwachen und die neuronale Szenengeometrie in Echtzeit zu inspizieren. Es entkoppelt neuronale Netzwerkarchitekturen von der Trainingsschleife durch eine standardisierte modulare Schnittstelle, was die Entwicklung und das Experimentieren mit benutzerdefinierten neuronalen Strahlungsfeldarchitekturen ermöglicht. Das Framework deckt ein breites Spektrum an Fähigkeiten ab, einschließlich der Vorverarbeitung von Datensätzen für die Kamerapositionsberechnung, der Bewertung der Modelltreue und der Generierung filmischer Videosequenzen durch Kameratrajektorien-Interpolation. Es enthält zudem Dienstprogramme zum Exportieren trainierter Szenen als 3D-Assets und Punktwolken zur Verwendung in externer Modellierungssoftware. Eine konsistente Hardwareausführung wird durch containerisierte Umgebungen unterstützt, die Grafiktreiber und Systemabhängigkeiten bündeln.

llama-cpp-python provides a Python interface for the llama.cpp library, enabling the execution of large language models with hardware acceleration. It functions as a GGUF model loader and a structured text generator capable of running inference servers and multimodal runtimes for processing both text and image inputs. The project distinguishes itself through a local inference server that exposes model capabilities via an OpenAI-compatible web API. It supports advanced execution techniques including speculative decoding, weight quantization, and layer-based GPU offloading to manage memory acro

Sonnet is a modular machine learning framework and TensorFlow library used for building, training, and managing deep learning models. It functions as a system for composing neural networks from reusable modules and layers that encapsulate their own parameters and internal states. The project provides specialized tools for distributed model training, enabling the synchronization of gradients across multiple hardware devices. It also serves as a model state management system, allowing for the persistence of neural network weights and the export of portable models that separate the computation g

This project is a collection of PyTorch learning resources and educational guides designed to teach the construction and training of neural networks. It serves as a comprehensive deep learning tutorial covering various model architectures and practical implementation strategies. The resources provide specific guidance on implementing computer vision tasks, such as image classification and synthetic imagery generation, as well as reinforcement learning agents using value networks and experience replay. It also covers sequential data modeling through recurrent networks and generative modeling u

This project is a comprehensive collection of educational examples and reference implementations for building vision and language models using PyTorch. It serves as a deep learning tutorial covering the end-to-end process of developing neural networks, from initial architecture definition to final production deployment. The repository provides detailed guides on implementing a wide range of domain-specific models, including convolutional neural networks for object detection and segmentation, as well as transformer and recurrent architectures for natural language processing. It emphasizes gene

This project is a machine learning educational resource and implementation guide for Python. It provides a collection of executable code and notebooks that demonstrate predictive modeling, data analysis workflows, and the implementation of various machine learning algorithms. The repository features practical examples of classification, regression, and clustering tasks using Scikit-Learn, alongside tutorials for building and training deep learning architectures with TensorFlow. These include implementations of convolutional and recurrent networks. The content covers a broad range of capabili

scikit-opt is a Python optimization library and numerical framework designed to solve complex global optimization problems. It provides a suite of metaheuristic algorithms and tools for finding global minima or maxima of objective functions. The library implements a variety of nature-inspired and swarm intelligence algorithms, including Genetic Algorithms, Particle Swarm Optimization, Differential Evolution, Simulated Annealing, and Ant Colony Optimization. It includes specialized solvers for discrete combinatorial challenges, such as the Traveling Salesman Problem. The framework supports th

Dieses Projekt ist ein JAX-basiertes Transformer-Framework und Large-Language-Model-Trainer für das Training verteilter Modelle auf TPU-Hardwarebeschleunigern. Es bietet ein System für Pretraining und Fine-Tuning autoregressiver Modelle durch Aufteilung von Gewichten und Berechnungen über ein Mesh von Geräten, um den Speicherbedarf zu reduzieren und die Verarbeitungsgeschwindigkeit zu erhöhen. Das Framework enthält einen TPU-Compute-Orchestrator für die Ressourcenbereitstellung und die Automatisierung der Abhängigkeitsinstallation auf verteilten Remote-Knoten. Es verfügt zudem über einen Modell-Gewichtskonverter, der Checkpoints zwischen verschiedenen Hardwarekonfigurationen und numerischen Präzisionen transformieren und neu sharden kann. Das Projekt deckt breitere Funktionen ab, darunter Sharded-Checkpoint-Management für Cloud-Speicher, stream-basiertes Datenladen mit Zustandswiederherstellung und nucleus-basierte Textgenerierung für Modell-Inferenz. Es unterstützt zudem XLA-kompilierte Hardwarebeschleunigung für TPU- und GPU-Cluster und bietet Tools für Performance-Benchmarking gegen standardisierte Sprachaufgaben.

Dieses Projekt ist ein umfassendes Bildungsprogramm und Deep-Learning-Framework, das darauf ausgelegt ist, praktisches Deep Learning mit PyTorch anhand von Notebooks und Codebeispielen zu vermitteln. Es dient als High-Level-Bibliothek zum Erstellen, Trainieren und Bereitstellen neuronaler Netze und fungiert als Modell-Trainings-Orchestrator, der PyTorch-Modelle, Optimierer und Verlustfunktionen koordiniert. Das Projekt bietet spezialisierte Toolkits für Computer Vision, Natural Language Processing und die Vorverarbeitung tabellarischer Daten. Es zeichnet sich durch fortschrittliche Trainingskontrollen aus, wie z. B. diskriminative Lernraten, ein Zwei-Wege-Callback-System zur Anpassung der Trainingslogik und eine High-Level-Learner-Abstraktion, die die Geräteplatzierung und Trainingsschleifen automatisiert. Das Framework deckt ein breites Fähigkeitsspektrum ab, einschließlich der automatisierten Konstruktion von Datenpipelines, der Analyse von Modellarchitekturen und der Leistungsbewertung bei Klassifizierungs-, Regressions- und Segmentierungsaufgaben. Es enthält zudem Dienstprogramme für verteiltes Training über mehrere GPUs, Mixed-Precision-Training zur Speicheroptimierung und spezialisierte Unterstützung für medizinische Bilddaten. Das Projekt wird als eine Reihe von Jupyter Notebooks bereitgestellt.

torch2trt ist ein Tool zur Transformation von PyTorch-Modulmodellen in optimierte TensorRT-Engines, um die Inferenz-Performance auf NVIDIA-GPUs zu verbessern. Es fungiert als Deep-Learning-Modelloptimierer und Engine-Generator, der neuronale Netzwerkschichten in hochperformante Runtime-Formate für hardwarebeschleunigte Grafikprozessoren konvertiert. Das Projekt bietet ein Tool zur Konvertierung benutzerdefinierter Schichten, mit dem Benutzer Python-basierte Konvertierungslogik definieren und registrieren können, um spezialisierte Operationen zu handhaben, die standardmäßig nicht unterstützt werden. Diese Erweiterbarkeit wird durch ein registry-basiertes System ergänzt, das spezifische Schichttypen benutzerdefinierten Konvertierungsfunktionen zuordnet. Das System deckt die GPU-Inferenzbeschleunigung durch Deep-Learning-Modellquantisierung und Quantization-Aware-Training ab, um den Speicherverbrauch zu reduzieren und den Durchsatz zu erhöhen. Es umfasst zudem Funktionen zur Modellpersistenz, die es ermöglichen, den Zustand optimierter Engines zu speichern und neu zu laden.

Dieses Projekt ist eine umfassende Lehrressource und ein Kurs zum Aufbau neuronaler Netze mit PyTorch. Es deckt die grundlegenden Bausteine des Deep Learning ab, einschließlich Tensor-Manipulation, automatischer Differenzierung und der Konstruktion modularer Komponenten für neuronale Netze. Das Repository dient als technischer Leitfaden für verschiedene spezialisierte Bereiche. Es bietet Implementierungsdetails für Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und semantische Segmentierung sowie Workflows für die Verarbeitung natürlicher Sprache (NLP) mit Transformern, rekurrenten Netzen und generativen Modellen. Zudem enthält es eine Referenz für generative KI, mit Fokus auf die Synthese von Bildern mittels Diffusionsmodellen und adversarialen Netzwerken. Das Material erstreckt sich auf Modelloptimierung und Deployment-Pipelines. Es behandelt Techniken zur Reduzierung der Modellgröße und zur Erhöhung der Inferenzgeschwindigkeit durch Quantisierung und den Export von Modellen in Formate wie ONNX und TensorRT. Weitere Kompetenzbereiche umfassen Data Engineering für paralleles Laden, Modellevaluierung mittels benutzerdefinierter Metriken und das Deployment von Open-Source Large Language Models. Das Projekt wird primär als eine Reihe von Jupyter Notebooks bereitgestellt.

Dieses Projekt ist ein Repository für akademische Lehrpläne und ein Bildungszentrum für das Studium von Wahrscheinlichkeit, Statistik und Machine Learning. Es dient als Kurs-Website für Deep Learning und als Knotenpunkt für Lehrmaterialien, die eine strukturierte Sammlung von Inhalten zur Vermittlung von neuronalen Netzwerkarchitekturen bereitstellen. Das Repository zeichnet sich dadurch aus, dass es eine umfassende Bildungsressource mit einem Archiv für Machine-Learning-Projekte kombiniert. Es bietet eine kuratierte Auswahl an Forschungsbeispielen und Implementierungsleitfäden für eine Vielzahl von Modellen, darunter Multilayer-Perzeptrone, Convolutional Networks und rekurrente Sequenzmodelle. Das Projekt deckt ein breites Spektrum an Fähigkeiten ab, einschließlich Computer-Vision-Forschung für Objekterkennung und Bildklassifizierung, die Implementierung von Sequence-to-Sequence-Modellierung und Optimierungstechniken für neuronale Netze. Es bietet zudem administrative Werkzeuge für das akademische Kursmanagement, wie z. B. die Verfolgung von Projektmeilensteinen und die Verteilung von Aufgaben. Die Lehrmaterialien werden durch eine Kombination aus interaktiven Notebooks, Vorlesungsfolien und Videoaufzeichnungen bereitgestellt.

This is a structured deep learning curriculum for programmers, delivered as a collection of Jupyter notebooks. It teaches the fundamentals of training neural networks for computer vision, natural language processing, tabular data analysis, and collaborative filtering using PyTorch and the fastai library. The course is designed to be hands-on, guiding learners from building a training loop from scratch to fine-tuning pretrained models for a variety of practical tasks. The curriculum distinguishes itself by covering the full lifecycle of a deep learning project, from data preparation and augmen