apple/coremltools
Coremltools
coremltools ist ein Konvertierungs-Toolkit und Übersetzer, der darauf ausgelegt ist, Machine-Learning-Modelle aus verschiedenen Frameworks in das Core ML-Format für die Ausführung auf Apple-Hardware zu transformieren. Es bietet eine Suite von Tools für die Migration von Gewichten und Architekturen aus externen Bibliotheken in ein bereitstellbares Modellformat.
Das Projekt enthält ein Optimierungstool und eine programmatische Schnittstelle zur Bearbeitung von Modellgraphen und zur Modifikation von Metadaten, um die Leistung auf der Zielhardware zu verbessern. Es verfügt zudem über eine Validierungssuite, mit der Modellspezifikationen und die Kompatibilität von Operationen geprüft werden, um eine korrekte Ausführung innerhalb der Runtime sicherzustellen.
Das Toolkit deckt ein breites Spektrum an Deployment-Funktionen ab, einschließlich der Bearbeitung von Modellgraphen, der Metadatenkonfiguration und der Kompatibilitätsprüfung gegen formale Formatspezifikationen.
Features
- Cross-Framework Model Conversion - Transforms machine learning models from various external frameworks into the Core ML format for Apple hardware.
- Graph Model Transformations - Represents machine learning models as computational graphs to enable structural transformations and optimization.
- Hardware-Specific Model Optimizations - Optimizes model graphs and metadata specifically to leverage Apple hardware accelerators and neural engines.
- Model Graph Optimizers - Provides a programmatic interface to simplify and optimize model graphs for improved inference performance.
- Model Conversion Toolkits - Provides a comprehensive toolkit for converting model checkpoints into lightweight libraries for specific hardware runtimes.
- Model Conversion - Transforms trained models from various frameworks into optimized formats for target hardware deployment.
- ML Operator Translations - Provides translation of individual mathematical operators between different machine learning frameworks.
- High-Level Model APIs - Provides high-level APIs for the incremental programmatic construction of neural network architectures.
- Model Deployment - Prepares and validates optimized models for production execution on target hardware.
- Model Validation Schemas - Verifies model correctness by enforcing schema constraints on inputs and operations for the target runtime.
- Model-to-Runtime Compatibility Verifications - Identifies unsupported operations to verify model compatibility with specific versions of the inference engine.
- Model Compatibility Suites - Ships a validation suite to check model specifications and operation compatibility for correct runtime execution.
- Deployment Specification Validators - Checks model specifications against formal schemas and runtime requirements before deployment.
- Intermediate Representation Translation - Translates tensors and operators into a standardized internal format to decouple source frameworks from target conversion.
- Model Conversion Tools - Tools for converting models to Apple's CoreML format.
