1 dépôt
Software implementations of neural network operations using only integer arithmetic to bypass floating-point units.
Distinct from Integer Arithmetic: Focuses on the application of integer math for AI inference rather than general fundamental arithmetic operations.
Explore 1 awesome GitHub repository matching software engineering & architecture · Integer-Only Inference. Refine with filters or upvote what's useful.
Ce projet fournit une suite de modèles de détection de visages légers conçus pour une inférence à haute vitesse sur des appareils d'edge computing. Il se concentre sur une architecture de réseau de neurones compacte qui permet la détection de visages humains dans des environnements caractérisés par des ressources de calcul limitées et des contraintes d'alimentation. Le système propose des détecteurs de visages quantifiés disponibles dans plusieurs formats pour assurer la compatibilité avec diverses architectures matérielles. Il inclut des utilitaires pour l'exportation et la quantification de modèles, permettant aux poids entraînés d'être convertis en formats standardisés pour un déploiement agnostique au matériel. Le projet couvre des workflows pour l'entraînement de modèles personnalisés et le traitement de jeux de données d'images afin d'ajuster les profils de précision et de vitesse. Il prend en charge les tâches de vision par ordinateur en temps réel grâce à l'utilisation d'arithmétique entière uniquement et d'un runtime d'inférence basé sur C pour minimiser la surcharge sur le matériel embarqué.
Uses integer-only arithmetic to accelerate processing on hardware lacking dedicated floating-point units.