Awesome GitHub RepositoriesTensorFlow

TensorFlow.js is a JavaScript machine learning library used for training and deploying models in web browsers and server-side environments. It functions as a browser-based model trainer, a WebAssembly inference engine, and a WebGPU accelerated tensor library for low-level linear algebra. The project also includes a model converter to transform Python-based models into optimized formats for JavaScript execution. The library distinguishes itself through a pluggable backend architecture that allows mathematical operations to be executed via CPU, WebGL, or WebGPU. It supports the conversion of Py

This project is a collection of pre-trained machine learning models and conversion pipelines designed for running inference directly in the browser using TensorFlow.js. It provides a library of ready-to-use models for computer vision, audio classification, and natural language processing tasks. The suite includes specialized tools for transforming Python-based Keras models into JSON formats compatible with web environments. It enables the deployment of these models by fetching architectures and weight shards via HTTP for client-side execution. The project covers a broad range of capabilities

WasmEdge is an extensible WebAssembly runtime that executes WebAssembly bytecode in a secure sandbox for cloud, edge, and embedded applications. It functions as a multi-language compiler, compiling applications written in Rust, JavaScript, Go, and Python into WebAssembly bytecode for sandboxed execution, and as a server-side JavaScript runtime that runs JavaScript programs with ES6 modules, NPM packages, and Node.js-compatible APIs. The runtime also serves as an AI inference runtime, executing AI models from JavaScript using WASI-NN plug-ins for inference tasks on personal devices and edge har

OpenVINO is an AI inference engine and model serving platform designed to execute optimized deep learning models across CPUs, GPUs, and NPUs through a unified API. It includes a model optimization toolkit for converting, quantizing, and compressing models from various frameworks, alongside a specialized generative AI runtime for large language models. The project distinguishes itself through a plugin-based hardware acceleration layer that maps neural network operations to vendor-specific drivers. It features advanced execution mechanisms such as continuous batching, speculative decoding, and

tflearn is a deep learning framework and high-level API wrapper for TensorFlow. It provides a toolkit for designing neural network architectures and a system for executing training loops and optimizing model weights across CPUs and GPUs. The project simplifies the process of building and training models through a modular interface and a high-level API for prototyping. It includes specialized utilities for deep learning visualization, allowing for the generation of graphical diagrams to analyze network structures, weights, gradients, and activations. The framework covers a broad range of capa

tensorrtx is a computer vision inference engine and model implementation library designed for graphics processor acceleration. It provides a framework for optimizing deep learning models through a GPU inference optimizer, a deep learning model converter for transforming weights from frameworks like TensorFlow and PyTorch, and a custom plugin library to implement operations not natively supported by the TensorRT API. The project distinguishes itself through a comprehensive collection of pre-defined network implementations, ranging from various YOLO versions and DETR transformers for object det

yolotf ist ein Framework für Objekterkennung, das Tools zur Konvertierung von Darknet-Modellkonfigurationen und -Gewichten in TensorFlow-Graphen bereitstellt. Es enthält einen TensorFlow-Modell-Trainer für das Training neuer Erkennungsmodelle oder das Fine-Tuning bestehender Gewichte mit benutzerdefinierten Datensätzen. Das Projekt bietet einen Mobile-Model-Exporter, der Graphdefinitionen und Metadaten in Protobuf-Dateien für das Deployment auf mobilen Geräten serialisiert. Das Framework unterstützt die Objekterkennungs-Inferenz auf Bildern und Videos, um Objekte zu identifizieren und Bounding-Box-Koordinaten zu exportieren. Es verwaltet den Modellzustand durch Weight-Mapping-Übersetzung und checkpoint-basiertes Training, um die Wiederherstellung von Gewichten und Optimizer-Zuständen zu ermöglichen.

Darkflow ist ein Framework für Objekterkennung und eine Computer-Vision-Pipeline, die eine programmatische Schnittstelle für Echtzeit-Bildanalyse und Objektidentifikation bereitstellt. Es fungiert als Tool zum Laden von Gewichten, zum Fine-Tuning von Modellen und zur Ausführung von Inferenz auf statischen Bildern und Videostreams. Das Projekt dient als Konverter, der Darknet-Konfigurationen und -Gewichte in TensorFlow-Graphen übersetzt, um ein Retraining und Deployment zu ermöglichen. Es enthält einen Model-Exporter, der trainierte Graphen in portable Protobuf-Dateien für den Einsatz auf mobilen und nativen Geräten speichert. Das System deckt Funktionen für das Training und Fine-Tuning von Erkennungsmodellen auf benutzerdefinierten Datensätzen ab und bietet Fortschritts-Checkpoints für die Wiederaufnahme des Trainings. Zudem enthält es Tools für die Übersetzung von Weight-Mappings und die Verarbeitung von Rohbilddaten durch Tensor-Operationen, um Bounding-Boxes und Konfidenzwerte zu erzeugen.

MMdnn ist ein Deep-Learning-Modellkonverter und -Migrator, der darauf ausgelegt ist, neuronale Netzwerkarchitekturen und Gewichte zwischen verschiedenen Frameworks wie TensorFlow, PyTorch und Keras zu übersetzen. Es nutzt eine standardisierte Zwischenrepräsentation, um Netzwerkstrukturen und Gewichte von spezifischen Framework-Implementierungen zu entkoppeln, was die Transformation vortrainierter Modelle über verschiedene Umgebungen hinweg ermöglicht. Das Projekt zeichnet sich dadurch aus, dass es aus seinen Zwischenrepräsentationen nativen Python-Rekonstruktionscode generiert, wodurch Modelle in Zielumgebungen neu aufgebaut und feinabgestimmt werden können. Es enthält zudem spezialisierte Tools für das Deployment auf Mobilgeräten, die Deep-Learning-Modelle in mobile Formate wie CoreML und TensorFlow Lite umwandeln. Das System bietet ein breiteres Spektrum an Funktionen, darunter die Visualisierung neuronaler Netzwerkarchitekturen zur Untersuchung von Graphstrukturen und Metadaten sowie die Ausführung von Modellinferenzen, um zu validieren, dass konvertierte Modelle ihr ursprüngliches Verhalten und ihre Genauigkeit beibehalten. Zusätzliche Dienstprogramme verwalten das Abrufen vortrainierter Gewichte aus Remote-Repositories und das Zusammenstellen bereitstellbarer Modell-Checkpoints.

Dieses Projekt ist eine umfassende Lehrressource und ein Kurs zum Aufbau neuronaler Netze mit PyTorch. Es deckt die grundlegenden Bausteine des Deep Learning ab, einschließlich Tensor-Manipulation, automatischer Differenzierung und der Konstruktion modularer Komponenten für neuronale Netze. Das Repository dient als technischer Leitfaden für verschiedene spezialisierte Bereiche. Es bietet Implementierungsdetails für Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und semantische Segmentierung sowie Workflows für die Verarbeitung natürlicher Sprache (NLP) mit Transformern, rekurrenten Netzen und generativen Modellen. Zudem enthält es eine Referenz für generative KI, mit Fokus auf die Synthese von Bildern mittels Diffusionsmodellen und adversarialen Netzwerken. Das Material erstreckt sich auf Modelloptimierung und Deployment-Pipelines. Es behandelt Techniken zur Reduzierung der Modellgröße und zur Erhöhung der Inferenzgeschwindigkeit durch Quantisierung und den Export von Modellen in Formate wie ONNX und TensorRT. Weitere Kompetenzbereiche umfassen Data Engineering für paralleles Laden, Modellevaluierung mittels benutzerdefinierter Metriken und das Deployment von Open-Source Large Language Models. Das Projekt wird primär als eine Reihe von Jupyter Notebooks bereitgestellt.

Dieses Projekt ist eine PyTorch-Implementierung des YOLOv4-Objekterkennungs-Frameworks. Es bietet ein System zum Trainieren und Bereitstellen neuronaler Netzwerke, die mehrere Objekte in Bildern und Videostreams identifizieren und lokalisieren. Das Framework enthält Tools zur Konvertierung trainierter Gewichte in universelle Formate und hardwarespezifische optimierte Engines, wobei insbesondere ONNX und TensorRT unterstützt werden. Es verfügt über einen TensorRT-Inferenz-Optimierer zur Latenzreduzierung und Durchsatzsteigerung sowie eine Modellarchitektur, die mit NVIDIA DeepStream Streaming-Analytics-Pipelines kompatibel ist. Das System deckt das Modelltraining mit Mosaic-Datenaugmentierung ab und unterstützt die Echtzeit-Objekterkennung über mehrere Inferenz-Engines hinweg. Es bietet Hilfsprogramme für die Modellkonvertierung zu TensorFlow und unterstützt sowohl statische als auch dynamische Batch-Konfigurationen für das Deployment.

Dieses Projekt ist ein selbstüberwachtes kontrastives Lern-Framework, das darauf ausgelegt ist, Deep-Learning-Modelle darauf zu trainieren, visuelle Repräsentationen aus Bildern zu lernen, ohne menschlich bereitgestellte Labels zu verwenden. Es bietet ein System zur Entwicklung vortrainierter visueller Repräsentationsmodelle, die für nachgelagerte Computer-Vision-Aufgaben angepasst werden können. Das Framework enthält Tools für semi-überwachte Bildklassifizierung, die große ungelabelte Datensätze mit kleinen gelabelten Sets kombiniert, um die Genauigkeit zu verbessern. Es bietet zudem ein Linear-Probe-Evaluierungstool, um die Qualität gelernter Bildmerkmale zu bewerten, indem ein einfacher linearer Klassifikator auf Basis eingefrorener Repräsentationen trainiert wird. Die Codebasis deckt verteiltes Deep-Learning-Training und Hardwarebeschleunigung ab, um große Batch-Größen zu handhaben, neben Optimierungsprimitiven wie Cosine-Decay-Learning-Rate-Scheduling und Weight-Decay-Regularisierung. Sie bietet zudem Dienstprogramme für das Modellmanagement, einschließlich der Konvertierung vortrainierter Checkpoints zwischen verschiedenen Deep-Learning-Framework-Formaten und Tools für das Model-Deployment. Die Implementierung wird als Sammlung von Jupyter Notebooks bereitgestellt.

ruvector is a Rust-based vector store and graph database designed for local inference and nearest neighbor searches. It utilizes a vector graph database architecture and a graph neural network index to refine search rankings through structural attention. The system includes a hardware-accelerated quantum circuit simulator for executing state-vector simulations and complex search patterns, alongside a WebAssembly inference engine for running vector search and model execution directly in web browsers. The project employs a cognitive container format that bundles models, data, and a bootable mic

IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis