3 रिपॉजिटरी
The process of writing and managing low-level logic for GPU device execution.
Distinguishing note: Candidates focus on Android kernels or multi-device launches; this is general GPU-side kernel logic development.
Explore 3 awesome GitHub repositories matching operating systems & systems programming · GPU Kernel Development. Refine with filters or upvote what's useful.
rust-cuda is a GPU programming framework and device compiler that allows for the development and execution of high-performance kernels on NVIDIA hardware using Rust. It provides a driver wrapper to manage device memory allocation and kernel launching, effectively serving as a system for writing GPU compute logic without relying on C++. The project includes a compute library with hardware-optimized primitives for neural network acceleration and hardware-accelerated raytracing. It utilizes a compilation toolchain that translates source code into a low-level intermediate representation for execu
Provides a framework for managing thread indices and memory allocation to create device-side logic.
AITemplate एक अहेड-ऑफ़-टाइम डीप लर्निंग कंपाइलर है जो PyTorch न्यूरल नेटवर्क को स्टैंडअलोन C++ सोर्स कोड में अनुवादित करता है। यह PyTorch-टू-C++ कंपाइलर और GPU कर्नल फ़्यूज़न इंजन के रूप में कार्य करता है, जो Python इंटरप्रेटर या डीप लर्निंग फ्रेमवर्क रनटाइम की आवश्यकता के बिना इन्फ़्रेंस चलाने वाले स्व-निहित निष्पादन योग्य बाइनरीज़ का उत्पादन करता है। यह प्रोजेक्ट विशेष रूप से NVIDIA TensorCores और AMD MatrixCores के लिए अनुकूलित CUDA और HIP C++ कोड उत्पन्न करता है। यह एक ऐसे सिस्टम के माध्यम से हाफ-प्रिसिजन फ़्लोटिंग-पॉइंट ऑपरेशंस के लिए थ्रूपुट को अधिकतम करने पर केंद्रित है जो मेमोरी ओवरहेड और विलंबता को कम करने के लिए कई न्यूरल नेटवर्क ऑपरेटरों को एकल GPU कर्नल्स में जोड़ता है। टूलसेट GPU इन्फ़्रेंस त्वरण और उच्च प्रदर्शन कंप्यूटिंग को कवर करता है, जो कस्टम GPU ऑपरेटर विकास और हार्डवेयर-विशिष्ट टेम्प्लेट के लिए ग्राफ़ नोड्स की मैपिंग के लिए क्षमताएं प्रदान करता है। इसमें इन्फ़्रेंस प्रदर्शन को बेंचमार्क करने और मॉडल ऑप्टिमाइज़ेशन को विज़ुअलाइज़ करने के लिए यूटिलिटी सपोर्ट शामिल है।
Provides the ability to define new neural network primitives and map them to hardware-specific code generation templates.
HIP is a C++ GPU kernel language and cross-platform runtime designed for writing portable high-performance compute applications. It provides a programming interface that allows a single source codebase to execute on both AMD and NVIDIA GPU architectures. The project functions as a compatibility layer that enables the conversion and migration of existing CUDA source code to run on AMD hardware. This is achieved through a syntax mapping that mirrors CUDA and a source-to-source translation process during compilation. The toolkit covers the broader surface of cross-platform GPGPU development, in
Enables the development of single-source C++ kernels that execute on multiple GPU architectures.