1 Repo
Software implementations of neural network operations using only integer arithmetic to bypass floating-point units.
Distinct from Integer Arithmetic: Focuses on the application of integer math for AI inference rather than general fundamental arithmetic operations.
Explore 1 awesome GitHub repository matching software engineering & architecture · Integer-Only Inference. Refine with filters or upvote what's useful.
Dieses Projekt bietet eine Suite leichtgewichtiger Gesichtserkennungsmodelle, die für die Inferenz mit hoher Geschwindigkeit auf Edge-Computing-Geräten entwickelt wurden. Es basiert auf einer kompakten neuronalen Netzwerkarchitektur, die die Erkennung menschlicher Gesichter in Umgebungen mit begrenzten Rechenressourcen und Leistungsbeschränkungen ermöglicht. Das System bietet quantisierte Gesichtserkenner in mehreren Formaten, um die Kompatibilität über verschiedene Hardwarearchitekturen hinweg sicherzustellen. Es enthält Dienstprogramme für den Modellexport und die Quantisierung, wodurch trainierte Gewichte in standardisierte Formate für hardwareunabhängige Bereitstellungen konvertiert werden können. Das Projekt deckt Workflows für das Training benutzerdefinierter Modelle und die Verarbeitung von Bilddatensätzen ab, um Präzisions- und Geschwindigkeitsprofile anzupassen. Es unterstützt Echtzeit-Computer-Vision-Aufgaben durch die Verwendung von Integer-only-Arithmetik und einer C-basierten Inferenz-Runtime, um den Overhead auf eingebetteter Hardware zu minimieren.
Uses integer-only arithmetic to accelerate processing on hardware lacking dedicated floating-point units.