1 Repo
High-performance software implementations optimized for execution on resource-constrained edge hardware.
Distinct from C++ Implementations: Focuses on the architectural goal of edge optimization and low latency rather than just being written in C++.
Explore 1 awesome GitHub repository matching operating systems & systems programming · Optimized Edge Implementations. Refine with filters or upvote what's useful.
lite.ai.toolkit ist ein C++ Computer-Vision-Toolkit für Edge-KI-Deployments. Es ermöglicht die Ausführung vortrainierter Modelle für Objekterkennung, Bildklassifizierung und Segmentierung auf ressourcenbeschränkten Geräten. Das Projekt bietet eine Multi-Backend-Inferenz-Engine, die die ONNX-Model-Runtime unterstützt, wodurch KI-Modelle auf verschiedenen Hardware-Zielen ausgeführt werden können. Es enthält eine GPU-beschleunigte Pipeline speziell für NVIDIA-Hardware, um Latenzen zu reduzieren und die Verarbeitungsgeschwindigkeit zu erhöhen. Das Toolkit deckt ein breites Spektrum an Funktionen zur Gesichtsanalyse ab, einschließlich Emotionserkennung, Geschlechts- und Altersschätzung sowie Kopfhaltungserkennung. Es bietet zudem Tools für die Gesichtserkennung durch die Extraktion von Feature-Embeddings und die Berechnung der Kosinus-Ähnlichkeit zur Identitätsprüfung. Zusätzliche Funktionen umfassen Image-Matting zur Vordergrundisolierung, Kolorierung von Graustufenbildern und künstlerischen Style-Transfer.
Provides high-performance C++ implementations designed to run computer vision models on resource-constrained edge devices.