1 repositorio
Integrating machine learning model predictions into distributed data processing systems.
Distinct from Big Data Processing: Focuses specifically on embedding model inference within big data pipelines, rather than general big data processing tasks.
Explore 1 awesome GitHub repository matching data & databases · Model Inference Integration. Refine with filters or upvote what's useful.
Deep Java Library es un framework de deep learning para Java y motor de inferencia de modelos para la JVM. Proporciona una API de alto nivel para construir y desplegar modelos de deep learning dentro del ecosistema Java, actuando como un runtime multiplataforma para ejecutar modelos en CPUs, GPUs y dispositivos móviles. La librería es agnóstica al motor, permitiendo a los usuarios cambiar entre diferentes motores de deep learning como PyTorch, TensorFlow y MXNet mientras mantienen una única API unificada. Esto permite el despliegue del mismo modelo en diferentes backends sin cambiar el código de la aplicación. El framework soporta el ciclo de vida completo del machine learning, incluyendo la construcción y entrenamiento de arquitecturas de redes neuronales y la ejecución de inferencia en tiempo real. Incluye capacidades para la inferencia de machine learning distribuida para escalar predicciones a través de tuberías de big data y la capacidad de desplegar modelos como microservicios o dentro de aplicaciones cliente. El sistema cubre una amplia gama de dominios, incluyendo visión por computadora para detección de rostros y clasificación de imágenes, y procesamiento de lenguaje natural para análisis de sentimiento y embeddings de oraciones.
Enables the integration of model inference into distributed big data processing frameworks for large-scale predictions.