2 Repos
Awesome GitHub RepositoriesGPU Command Queues
Hardware queues used to submit compute kernels for asynchronous execution on the graphics processor.
Distinct from Command Queue Dispatchers: Focuses on GPU hardware command submission rather than general CPU background thread dispatching.
Explore 2 awesome GitHub repositories matching software engineering & architecture · GPU Command Queues. Refine with filters or upvote what's useful.
Awesome GPU Command Queues GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- answerdotai/gpu.cpp
AnswerDotAI/gpu.cpp
3,981Auf GitHub ansehengpu.cpp ist eine leichtgewichtige C++-Bibliothek zur Ausführung von Low-Level-General-Purpose-GPU-Berechnungen über verschiedene Hardwareanbieter und Betriebssysteme hinweg. Sie fungiert als portabler GPU-Wrapper, Kernel-Orchestrator und Tensor-Managementsystem unter Verwendung der WebGPU-Spezifikation, um Geräteinitialisierung, Pufferübertragungen und Compute-Shader-Dispatching zu abstrahieren. Die Bibliothek bietet ein Framework zur Definition von Compute-Kerneln aus Shader-Code und zur Verwaltung ihrer asynchronen Ausführung und Synchronisation. Sie ermöglicht die Ausführung plattformübergreifender Compute-Shader und die Orchestrierung von GPU-Aufgaben durch eine standardisierte Grafikprozessor-Spezifikation. Das System handhabt den gesamten Lebenszyklus von GPU-Speicher, einschließlich der Allokation mehrdimensionaler Tensoren, bidirektionaler Datenbewegung zwischen Host und Gerät über Staging-Puffer sowie Ressourcen-Tracking zur Vermeidung von Speicherlecks. Es unterstützt zudem Tensor-Slicing zur Erstellung nicht-besitzender Views von Speichersegmenten und enthält Dienstprogramme für System-Message-Logging und Schweregrad-Filterung.
Provides a non-blocking command queue to dispatch compute kernels for asynchronous GPU execution.
C++ - iree-org/iree
iree-org/iree
3,819Auf GitHub ansehenIREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis
Manages hardware queues to submit compute kernels as recorded command buffers for asynchronous execution on GPUs.
C++compilercudajax
