1 dépôt
Runtime loading of deep learning backend libraries based on hardware and environment detection.
Distinct from Dynamic Library Loading: Specific to ML backend libraries rather than general system plugins or web assets.
Explore 1 awesome GitHub repository matching operating systems & systems programming · ML Engine Dynamic Loading. Refine with filters or upvote what's useful.
Deep Java Library est un framework d'apprentissage profond Java et un moteur d'inférence de modèle JVM. Il fournit une API de haut niveau pour construire et déployer des modèles d'apprentissage profond au sein de l'écosystème Java, agissant comme un runtime multiplateforme pour exécuter des modèles sur des CPU, GPU et appareils mobiles. La bibliothèque est agnostique au moteur, permettant aux utilisateurs de basculer entre différents moteurs d'apprentissage profond tels que PyTorch, TensorFlow et MXNet tout en conservant une API unifiée unique. Cela permet le déploiement du même modèle sur différents backends sans changer le code de l'application. Le framework prend en charge l'intégralité du cycle de vie de l'apprentissage automatique, y compris la construction et l'entraînement d'architectures de réseaux de neurones et l'exécution d'inférences en temps réel. Il inclut des capacités pour l'inférence d'apprentissage automatique distribué afin de mettre à l'échelle les prédictions à travers des pipelines de big data et la possibilité de déployer des modèles en tant que microservices ou au sein d'applications clientes. Le système couvre un large éventail de domaines, notamment la vision par ordinateur pour la détection de visages et la classification d'images, et le traitement du langage naturel pour l'analyse de sentiment et les embeddings de phrases.
Implements a mechanism to load specific machine learning backend libraries at runtime based on the detected hardware.