1 repositorio
Software implementations of neural network operations using only integer arithmetic to bypass floating-point units.
Distinct from Integer Arithmetic: Focuses on the application of integer math for AI inference rather than general fundamental arithmetic operations.
Explore 1 awesome GitHub repository matching software engineering & architecture · Integer-Only Inference. Refine with filters or upvote what's useful.
Este proyecto proporciona un conjunto de modelos ligeros de detección facial diseñados para inferencia de alta velocidad en dispositivos de computación de borde (edge computing). Se centra en una arquitectura de red neuronal compacta que permite la detección de rostros humanos en entornos caracterizados por recursos de cómputo limitados y restricciones de energía. El sistema cuenta con detectores faciales cuantizados disponibles en múltiples formatos para garantizar la compatibilidad entre diversas arquitecturas de hardware. Incluye utilidades para la exportación y cuantización de modelos, permitiendo que los pesos entrenados se conviertan a formatos estandarizados para un despliegue agnóstico al hardware. El proyecto cubre flujos de trabajo para el entrenamiento de modelos personalizados y el procesamiento de conjuntos de datos de imágenes para ajustar perfiles de precisión y velocidad. Admite tareas de visión artificial en tiempo real mediante el uso de aritmética de solo enteros y un runtime de inferencia basado en C para minimizar la sobrecarga en hardware embebido.
Uses integer-only arithmetic to accelerate processing on hardware lacking dedicated floating-point units.