1 个仓库
Software implementations of neural network operations using only integer arithmetic to bypass floating-point units.
Distinct from Integer Arithmetic: Focuses on the application of integer math for AI inference rather than general fundamental arithmetic operations.
Explore 1 awesome GitHub repository matching software engineering & architecture · Integer-Only Inference. Refine with filters or upvote what's useful.
本项目提供了一套轻量级人脸检测模型,专为边缘计算设备上的高速推理而设计。它以紧凑的神经网络架构为核心,能够在计算资源有限和功耗受限的环境中实现人脸检测。 该系统具有多种格式的量化人脸检测器,以确保跨不同硬件架构的兼容性。它包括用于模型导出和量化的实用程序,允许将训练好的权重转换为标准化格式,以便进行硬件无关的部署。 该项目涵盖了自定义模型训练和图像数据集处理的工作流,以调整精度和速度配置文件。它通过使用仅整数算术和基于 C 的推理运行时来支持实时计算机视觉任务,从而最大限度地减少嵌入式硬件上的开销。
Uses integer-only arithmetic to accelerate processing on hardware lacking dedicated floating-point units.