Awesome GitHub RepositoriesOptimized Edge Implementations

lite.ai.toolkit es un toolkit de visión artificial en C++ diseñado para el despliegue de IA en el borde (edge). Permite la ejecución de modelos preentrenados para detección de objetos, clasificación de imágenes y segmentación en dispositivos con recursos limitados. El proyecto cuenta con un motor de inferencia multi-backend que admite el runtime de modelos ONNX, permitiendo que los modelos de IA se ejecuten en diferentes objetivos de hardware. Incluye un pipeline acelerado por GPU específicamente para hardware NVIDIA para reducir la latencia y aumentar la velocidad de procesamiento. El toolkit cubre una amplia gama de capacidades de análisis facial, incluyendo detección de emociones, estimación de género y edad, y análisis de pose de cabeza. También proporciona herramientas para el reconocimiento facial mediante la extracción de embeddings de características y el cálculo de similitud de coseno para verificar identidades. Las capacidades adicionales incluyen el matting de imágenes para el aislamiento del primer plano, la colorización de imágenes en escala de grises y la transferencia de estilo artístico.