1 Repo
Awesome GitHub RepositoriesModel Inference Integration
Integrating machine learning model predictions into distributed data processing systems.
Distinct from Big Data Processing: Focuses specifically on embedding model inference within big data pipelines, rather than general big data processing tasks.
Explore 1 awesome GitHub repository matching data & databases · Model Inference Integration. Refine with filters or upvote what's useful.
Awesome Model Inference Integration GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- deepjavalibrary/djl
deepjavalibrary/djl
4,828Auf GitHub ansehenDeep Java Library (DJL) ist ein Java-Deep-Learning-Framework und eine JVM-Modell-Inferenz-Engine. Es bietet eine High-Level-API für den Aufbau und das Deployment von Deep-Learning-Modellen innerhalb des Java-Ökosystems und fungiert als plattformübergreifende Runtime für die Ausführung von Modellen auf CPUs, GPUs und Mobilgeräten. Die Bibliothek ist Engine-agnostisch, was es Benutzern ermöglicht, zwischen verschiedenen Deep-Learning-Engines wie PyTorch, TensorFlow und MXNet zu wechseln, während eine einheitliche API beibehalten wird. Dies ermöglicht das Deployment desselben Modells auf verschiedenen Backends, ohne den Anwendungscode zu ändern. Das Framework unterstützt den gesamten Machine-Learning-Lebenszyklus, einschließlich Aufbau und Training neuronaler Netzwerkarchitekturen sowie der Ausführung von Echtzeit-Inferenz. Es enthält Funktionen für verteiltes Machine-Learning-Inferenz-Scaling über Big-Data-Pipelines hinweg sowie die Möglichkeit, Modelle als Microservices oder innerhalb von Client-Anwendungen bereitzustellen. Das System deckt ein breites Spektrum an Domänen ab, einschließlich Computer Vision für Gesichtserkennung und Bildklassifizierung sowie Natural Language Processing für Sentiment-Analyse und Satz-Embeddings.
Enables the integration of model inference into distributed big data processing frameworks for large-scale predictions.
Java
