1 repository
Software implementations of neural network operations using only integer arithmetic to bypass floating-point units.
Distinct from Integer Arithmetic: Focuses on the application of integer math for AI inference rather than general fundamental arithmetic operations.
Explore 1 awesome GitHub repository matching software engineering & architecture · Integer-Only Inference. Refine with filters or upvote what's useful.
Acest proiect oferă o suită de modele ușoare de detectare a feței concepute pentru inferență de mare viteză pe dispozitive de edge computing. Se concentrează pe o arhitectură de rețea neuronală compactă care permite detectarea feței umane în medii caracterizate prin resurse de calcul limitate și constrângeri de putere. Sistemul dispune de detectoare de fețe cuantizate disponibile în mai multe formate pentru a asigura compatibilitatea între diverse arhitecturi hardware. Include utilitare pentru exportul și cuantizarea modelelor, permițând convertirea ponderilor antrenate în formate standardizate pentru implementare hardware-agnostică. Proiectul acoperă fluxuri de lucru pentru antrenarea modelelor personalizate și procesarea seturilor de date de imagini pentru a ajusta profilurile de precizie și viteză. Suportă sarcini de computer vision în timp real prin utilizarea aritmeticii doar cu numere întregi și a unui runtime de inferență bazat pe C pentru a minimiza overhead-ul pe hardware-ul embedded.
Uses integer-only arithmetic to accelerate processing on hardware lacking dedicated floating-point units.