1 个仓库
Tools that provide visual representations of neural network graphs to analyze compiler optimizations.
Distinguishing note: Specifically visualizes compiler-driven graph optimizations rather than general model compression or financial modeling.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Model Optimization Visualizers. Refine with filters or upvote what's useful.
AITemplate 是一个提前(ahead-of-time)深度学习编译器,将 PyTorch 神经网络转换为独立的 C++ 源代码。它作为一个 PyTorch 转 C++ 编译器和 GPU 内核融合引擎,生成自包含的可执行二进制文件,无需 Python 解释器或深度学习框架运行时即可运行推理。 该项目专门为 NVIDIA TensorCores 和 AMD MatrixCores 生成优化的 CUDA 和 HIP C++ 代码。它专注于通过将多个神经网络算子组合成单个 GPU 内核的系统,最大限度地提高半精度浮点运算的吞吐量,从而最小化内存开销和延迟。 该工具集涵盖了 GPU 推理加速和高性能计算,提供了自定义 GPU 算子开发以及将图节点映射到硬件特定模板的能力。它包括用于基准测试推理性能和可视化模型优化的实用支持。
Generates web-based representations of the model structure to illustrate how the generation process optimizes the network.