2 个仓库
Tools that automatically produce optimized operator kernel implementations for specific hardware architectures.
Distinct from Operator Kernel Implementations: Distinct from Operator Kernel Implementations: focuses on the automated generation process rather than the static implementation of kernels.
Explore 2 awesome GitHub repositories matching operating systems & systems programming · Automated Kernel Generators. Refine with filters or upvote what's useful.
Tengine 是一套工具和轻量级执行引擎,专为在受限嵌入式硬件上运行深度学习模型而设计。它提供了一个基础设施,用于转换神经网络模型、量化权重、优化算子内核,并跨 CPU、GPU 和 NPU 单元对推理性能进行基准测试。 该项目具有自动化算子内核优化器以生成高效内核,以及将精度降低为整数格式以降低内存使用量的模型量化工具。它包括一个专用的硬件基准测试工具,用于评估神经网络架构在嵌入式设备上的执行速度和效率。 该系统涵盖了模型格式到硬件无关内部表示的转换、模块化算子调度和多后端执行。这些能力允许将外部神经网络定义转换为兼容的运行时格式以进行嵌入式部署。
Provides an automated optimizer to generate high-efficiency operator kernels for targeted hardware architectures.
NuttX 是一个符合 POSIX 标准的实时操作系统,专为从 8 位到 64 位架构的微控制器而设计。它提供了一个具有实时任务调度器和 POSIX 嵌入式内核的确定性执行环境,以确保跨不同硬件目标的可移植代码执行。 该项目通过全面的硬件抽象层脱颖而出,该层为各种半导体芯片组提供了 I2C、SPI、CAN 和 USB 的标准化驱动程序。它还具有支持 TCP、UDP、IPv4 和 IPv6 的嵌入式网络栈,以及 Modbus 和 DroneCAN 等工业协议。 该系统涵盖了广泛的功能,包括具有按需分页的高级内存管理、安全加密操作,以及用于管理不同存储类型的虚拟文件系统。它进一步集成了用于图形用户界面、音频合成以及执行多种脚本语言和 WebAssembly 工作负载的高级接口。 该环境使用 Make 或 CMake 构建,以针对特定的板卡配置和半导体芯片组。
Automates the creation of kernel proxy and stub files using a CSV database to facilitate user-mode and kernel communication.