2 Repos
Awesome GitHub RepositoriesAsynchronous GPU Tasking
Non-blocking execution of GPU operations to prevent main thread stalling.
Distinct from Asynchronous Task Processors: Specifically targets the offloading of GPU kernels rather than general background application tasks.
Explore 2 awesome GitHub repositories matching software engineering & architecture · Asynchronous GPU Tasking. Refine with filters or upvote what's useful.
Awesome Asynchronous GPU Tasking GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- hybridgroup/gocv
hybridgroup/gocv
7,463Auf GitHub ansehenGoCV is a computer vision library and Go language binding for OpenCV. It serves as an image processing toolkit and deep learning inference engine, providing programmatic access to a wide range of algorithms for image manipulation, object detection, and video analysis. The project differentiates itself through high-performance native bindings and hardware acceleration. It utilizes a foreign function interface to map Go calls to C++ functions and includes a hardware-agnostic backend dispatch to route neural network tasks to computation engines such as CUDA and OpenVINO. The library covers a br
Executes CUDA operations asynchronously to allow multiple tasks to run without blocking the main thread.
Go - answerdotai/gpu.cpp
AnswerDotAI/gpu.cpp
3,981Auf GitHub ansehengpu.cpp ist eine leichtgewichtige C++-Bibliothek zur Ausführung von Low-Level-General-Purpose-GPU-Berechnungen über verschiedene Hardwareanbieter und Betriebssysteme hinweg. Sie fungiert als portabler GPU-Wrapper, Kernel-Orchestrator und Tensor-Managementsystem unter Verwendung der WebGPU-Spezifikation, um Geräteinitialisierung, Pufferübertragungen und Compute-Shader-Dispatching zu abstrahieren. Die Bibliothek bietet ein Framework zur Definition von Compute-Kerneln aus Shader-Code und zur Verwaltung ihrer asynchronen Ausführung und Synchronisation. Sie ermöglicht die Ausführung plattformübergreifender Compute-Shader und die Orchestrierung von GPU-Aufgaben durch eine standardisierte Grafikprozessor-Spezifikation. Das System handhabt den gesamten Lebenszyklus von GPU-Speicher, einschließlich der Allokation mehrdimensionaler Tensoren, bidirektionaler Datenbewegung zwischen Host und Gerät über Staging-Puffer sowie Ressourcen-Tracking zur Vermeidung von Speicherlecks. Es unterstützt zudem Tensor-Slicing zur Erstellung nicht-besitzender Views von Speichersegmenten und enthält Dienstprogramme für System-Message-Logging und Schweregrad-Filterung.
Coordinates the dispatch of GPU kernels using asynchronous primitives to manage non-blocking execution.
C++
