1 dépôt
Integrating machine learning model predictions into distributed data processing systems.
Distinct from Big Data Processing: Focuses specifically on embedding model inference within big data pipelines, rather than general big data processing tasks.
Explore 1 awesome GitHub repository matching data & databases · Model Inference Integration. Refine with filters or upvote what's useful.
Deep Java Library est un framework d'apprentissage profond Java et un moteur d'inférence de modèle JVM. Il fournit une API de haut niveau pour construire et déployer des modèles d'apprentissage profond au sein de l'écosystème Java, agissant comme un runtime multiplateforme pour exécuter des modèles sur des CPU, GPU et appareils mobiles. La bibliothèque est agnostique au moteur, permettant aux utilisateurs de basculer entre différents moteurs d'apprentissage profond tels que PyTorch, TensorFlow et MXNet tout en conservant une API unifiée unique. Cela permet le déploiement du même modèle sur différents backends sans changer le code de l'application. Le framework prend en charge l'intégralité du cycle de vie de l'apprentissage automatique, y compris la construction et l'entraînement d'architectures de réseaux de neurones et l'exécution d'inférences en temps réel. Il inclut des capacités pour l'inférence d'apprentissage automatique distribué afin de mettre à l'échelle les prédictions à travers des pipelines de big data et la possibilité de déployer des modèles en tant que microservices ou au sein d'applications clientes. Le système couvre un large éventail de domaines, notamment la vision par ordinateur pour la détection de visages et la classification d'images, et le traitement du langage naturel pour l'analyse de sentiment et les embeddings de phrases.
Enables the integration of model inference into distributed big data processing frameworks for large-scale predictions.