1 dépôt
High-performance software implementations optimized for execution on resource-constrained edge hardware.
Distinct from C++ Implementations: Focuses on the architectural goal of edge optimization and low latency rather than just being written in C++.
Explore 1 awesome GitHub repository matching operating systems & systems programming · Optimized Edge Implementations. Refine with filters or upvote what's useful.
lite.ai.toolkit est une boîte à outils de vision par ordinateur en C++ conçue pour le déploiement d'IA sur le edge. Elle permet l'exécution de modèles pré-entraînés pour la détection d'objets, la classification d'images et la segmentation sur des appareils aux ressources limitées. Le projet dispose d'un moteur d'inférence multi-backend qui prend en charge le runtime de modèle ONNX, permettant aux modèles d'IA de s'exécuter sur différentes cibles matérielles. Il inclut un pipeline accéléré par GPU spécifiquement pour le matériel NVIDIA afin de réduire la latence et d'augmenter la vitesse de traitement. La boîte à outils couvre un large éventail de capacités d'analyse faciale, incluant la détection d'émotions, l'estimation du genre et de l'âge, et l'analyse de la pose de la tête. Elle fournit également des outils pour la reconnaissance faciale via l'extraction d'embeddings de caractéristiques et le calcul de similarité cosinus pour vérifier les identités. Les capacités supplémentaires incluent le détourage d'image (matting) pour l'isolation du premier plan, la colorisation d'images en niveaux de gris et le transfert de style artistique.
Provides high-performance C++ implementations designed to run computer vision models on resource-constrained edge devices.