1 个仓库
Awesome GitHub RepositoriesModel Inference Integration
Integrating machine learning model predictions into distributed data processing systems.
Distinct from Big Data Processing: Focuses specifically on embedding model inference within big data pipelines, rather than general big data processing tasks.
Explore 1 awesome GitHub repository matching data & databases · Model Inference Integration. Refine with filters or upvote what's useful.
Awesome Model Inference Integration GitHub Repositories
用 AI 发现最棒的仓库。我们将通过 AI 为您搜索最匹配的仓库。
- deepjavalibrary/djl
deepjavalibrary/djl
4,828在 GitHub 上查看Deep Java Library 是一个 Java 深度学习框架和 JVM 模型推理引擎。它为在 Java 生态系统中构建和部署深度学习模型提供了高级 API，充当在 CPU、GPU 和移动设备上执行模型的跨平台运行时。 该库与引擎无关，允许用户在不同的深度学习引擎（如 PyTorch、TensorFlow 和 MXNet）之间切换，同时保持单一的统一 API。这使得无需更改应用程序代码即可在不同后端部署同一模型。 该框架支持完整的机器学习生命周期，包括构建和训练神经网络架构以及执行实时推理。它包括用于分布式机器学习推理以跨大数据流水线扩展预测的功能，以及将模型部署为微服务或在客户端应用程序中部署的能力。 该系统涵盖了广泛的领域，包括用于人脸检测和图像分类的计算机视觉，以及用于情感分析和句子嵌入的自然语言处理。
Enables the integration of model inference into distributed big data processing frameworks for large-scale predictions.
Java
