apple/coremltools
Coremltools
coremltools est une boîte à outils de conversion et un traducteur conçu pour transformer des modèles de machine learning provenant de divers frameworks vers le format Core ML pour une exécution sur le matériel Apple. Il fournit une suite d'outils pour migrer les poids et les architectures de bibliothèques externes vers un format de modèle déployable.
Le projet inclut un outil d'optimisation et une interface programmatique pour éditer les graphes de modèles et modifier les métadonnées afin d'améliorer les performances sur le matériel cible. Il dispose également d'une suite de validation utilisée pour vérifier les spécifications des modèles et la compatibilité des opérations afin de garantir une exécution correcte au sein du runtime.
La boîte à outils couvre un large éventail de capacités de déploiement, notamment l'édition de graphes de modèles, la configuration des métadonnées et la vérification de la compatibilité par rapport aux spécifications formelles du format.
Features
- Cross-Framework Model Conversion - Transforms machine learning models from various external frameworks into the Core ML format for Apple hardware.
- Graph Model Transformations - Represents machine learning models as computational graphs to enable structural transformations and optimization.
- Hardware-Specific Model Optimizations - Optimizes model graphs and metadata specifically to leverage Apple hardware accelerators and neural engines.
- Model Graph Optimizers - Provides a programmatic interface to simplify and optimize model graphs for improved inference performance.
- Model Conversion Toolkits - Provides a comprehensive toolkit for converting model checkpoints into lightweight libraries for specific hardware runtimes.
- Model Conversion - Transforms trained models from various frameworks into optimized formats for target hardware deployment.
- ML Operator Translations - Provides translation of individual mathematical operators between different machine learning frameworks.
- High-Level Model APIs - Provides high-level APIs for the incremental programmatic construction of neural network architectures.
- Model Deployment - Prepares and validates optimized models for production execution on target hardware.
- Model Validation Schemas - Verifies model correctness by enforcing schema constraints on inputs and operations for the target runtime.
- Model-to-Runtime Compatibility Verifications - Identifies unsupported operations to verify model compatibility with specific versions of the inference engine.
- Model Compatibility Suites - Ships a validation suite to check model specifications and operation compatibility for correct runtime execution.
- Deployment Specification Validators - Checks model specifications against formal schemas and runtime requirements before deployment.
- Intermediate Representation Translation - Translates tensors and operators into a standardized internal format to decouple source frameworks from target conversion.
- Model Conversion Tools - Tools for converting models to Apple's CoreML format.
