Awesome GitHub RepositoriesGPU Acceleration Libraries

This project is a high-performance numerical computing library designed for large-scale scientific and machine learning workloads. It functions as an automatic differentiation framework and a just-in-time compilation engine, transforming high-level Python code into optimized machine instructions. By enforcing pure functional programming patterns and immutable array semantics, the library ensures that mathematical functions remain compatible with automated graph transformations and symbolic differentiation. The platform distinguishes itself through its distributed array computing capabilities,

XGBoost is a distributed machine learning library for implementing scalable gradient boosting decision trees used for regression, classification, and ranking. It functions as a predictive model framework and a cross-language toolkit, providing a core implementation with native bindings for Python, R, Java, Scala, and C++. The system is designed as a GPU-accelerated library that utilizes CUDA and NCCL to speed up the training of decision tree ensembles. It operates as a distributed framework capable of scaling training and prediction across multi-node clusters and GPU environments to process m

NVIDIA Docker is a container runtime wrapper that enables the use of host-level graphics processing units within isolated container environments. It functions as a containerized GPU orchestrator, mapping physical hardware resources into virtualized environments to support high-performance computing and machine learning workloads. The project provides a toolkit that facilitates integration between containerized applications and host-level graphics hardware. By utilizing a pre-start hook to intercept container creation, the runtime injects necessary device drivers and libraries into the isolate

This library is a JavaScript framework for general-purpose computing on graphics processing units. It enables the execution of parallel mathematical operations directly within the browser by offloading data-heavy calculations to graphics hardware. The project functions as a web-based math accelerator that converts standard JavaScript functions into shader code for execution on the graphics processor. It provides a unified interface that detects available graphics APIs and manages data transfer between system and graphics memory. To ensure compatibility across diverse environments, the library

Dask هو إطار عمل للحوسبة المتوازية وجدول مهام موزع مصمم لتوسيع نطاق سير عمل علوم البيانات في Python من أجهزة فردية إلى مجموعات (clusters) كبيرة. يعمل كمدير موارد للمجموعة يقوم بتنسيق المنطق الحسابي من خلال تمثيل المهام وتبعياتها كرسوم بيانية موجهة غير دورية. تسمح هذه البنية للنظام بأتمتة توزيع أعباء العمل عبر الأجهزة المتاحة مع إدارة متطلبات التنفيذ المعقدة. يتميز المشروع بمحرك تقييم كسول يؤجل عمليات البيانات حتى يتم طلبها صراحة، مما يتيح تحسين الرسم البياني العالمي وتخصيص الموارد بكفاءة. يتضمن خاصية تسريب البيانات الواعية بالذاكرة لمنع تعطل النظام عند معالجة مجموعات البيانات التي تتجاوز الذاكرة المتاحة، ويستخدم دمج الرسم البياني للمهام لدمج تسلسلات العمليات في خطوات تنفيذ واحدة، مما يقلل من عبء الجدولة والاتصال بين العقد. توفر المنصة سطح قدرات شاملاً لتحليلات البيانات واسعة النطاق، بما في ذلك دعم التعلم الآلي الموزع، وتكامل الحوسبة عالية الأداء، ومعالجة البيانات المتوازية. توفر أدوات واسعة النطاق لإدارة دورة حياة المجموعة، وتوصيف الأداء، والمراقبة في الوقت الفعلي لتنفيذ المهام. يمكن للمستخدمين نشر هذه البيئات عبر بنية تحتية متنوعة، بما في ذلك الأجهزة المحلية، ومزودي السحابة، والأنظمة الحاوية، ومجموعات الحوسبة عالية الأداء.

Cpp-taskflow is a C++ task-parallelism framework and task graph scheduler designed to manage and execute complex dependency graphs of parallel tasks across CPU and GPU hardware. It provides a parallel algorithm library for high-performance implementations of reductions, sorts, pipelines, and iterations. The framework distinguishes itself through its ability to offload heavy computational workloads from a task graph to graphics processors for acceleration. It also includes a task profiling tool and a performance analysis interface for visualizing task execution flow and dependency structures t

CuPy هي مكتبة حوسبة مصفوفات CUDA تنفذ واجهة متوافقة مع NumPy لتنفيذ عمليات المصفوفات والحوسبة الرقمية على وحدات معالجة الرسومات من NVIDIA. تعمل كمكتبة رقمية مسرعة بواسطة GPU وتنفيذ لـ SciPy يعتمد على CUDA، مما يفرغ الحسابات الثقيلة إلى أجهزة الرسومات لزيادة سرعة المعالجة لأعباء العمل العلمية والهندسية. تمكّن المكتبة تبادل المصفوفات بين أطر عمل متعددة، مما يسمح بمشاركة مخازن البيانات بين أطر عمل التعلم العميق المختلفة باستخدام تخطيطات ذاكرة موحدة لتجنب نسخ الذاكرة. كما تدعم دمج نواة GPU مخصصة، مما يسمح بربط بيانات المصفوفات بواجهات برمجة تطبيقات منخفضة المستوى للتحكم الدقيق في تنفيذ الأجهزة. بشكل عام، يغطي المشروع سير عمل معالجة المصفوفات والحوسبة العلمية عالية الأداء. تشمل قدراته تسريع حسابات المصفوفات وتوفير أدوات للحسابات الرقمية واسعة النطاق.

This is a Glide image transformation library for Android that provides a collection of image processing filters and shapes. It functions as a suite of hardware-accelerated tools for image cropping, artistic filtering, and transformation pipeline management. The project distinguishes itself through an image filter pipeline that allows for sequential transformation chaining, enabling multiple visual effects and color modifications to be applied in a single pass. It utilizes GPU acceleration to implement artistic effects such as pixelation, sketching, and blur. The library covers a broad range

jetson-inference is a set of libraries and tools for executing optimized deep learning models on embedded GPU hardware. Its primary purpose is to enable real-time computer vision and AI inference at the edge with low latency and high throughput. The project distinguishes itself through high-performance streaming analytics and the ability to execute concurrent AI pipelines on auto-grade silicon. It provides specialized support for multi-sensor stream processing, utilizing zero-copy data transport to load camera frames directly into GPU memory. The codebase covers a broad surface of capabiliti

PixiEditor is a multi-functional graphics suite that serves as a pixel art editor, a node-based graphics editor, and a vector graphics tool. It functions as a shader-based painting tool and 2D animation software, providing a comprehensive environment for creating raster images and frame-by-frame motion. The project is distinguished by its use of node-based workflows for building complex image transformations, visual effects, and custom digital brush designs. It utilizes a shader-based brush engine and a node graph to define personalized painting tool behaviors and procedural animations. The

GoCV is a computer vision library and Go language binding for OpenCV. It serves as an image processing toolkit and deep learning inference engine, providing programmatic access to a wide range of algorithms for image manipulation, object detection, and video analysis. The project differentiates itself through high-performance native bindings and hardware acceleration. It utilizes a foreign function interface to map Go calls to C++ functions and includes a hardware-agnostic backend dispatch to route neural network tasks to computation engines such as CUDA and OpenVINO. The library covers a br

Feast is an open-source feature store for machine learning that provides a central platform for defining, storing, and serving features across both training and inference workflows. It operates as a declarative system where feature definitions are written as code in Python files, synchronized to a central registry, and made available for low-latency online retrieval or point-in-time correct historical joins for training datasets. The project abstracts storage behind a pluggable architecture, allowing offline and online backends to be swapped without changing retrieval logic, and coordinates ma

Warp is a Python framework that JIT-compiles Python functions into CUDA kernels for GPU-accelerated parallel computation, with built-in automatic differentiation and multi-framework array interoperability. At its core, it provides a GPU kernel compilation system that enables writing and executing custom GPU kernels directly from Python, while supporting automatic gradient computation through those kernels for integration with machine learning pipelines. The framework also includes tile-based cooperative computing, where thread blocks partition into tiles for shared-memory and tensor-core opera

NVIDIA DALI is a GPU-accelerated data loading and preprocessing library designed for deep learning workflows. It constructs high-performance data pipelines that offload decoding, augmentation, and normalization to the GPU, eliminating CPU bottlenecks in training and inference. The library reads data from multiple storage formats and streams it directly into GPU memory, with support for multi-GPU execution to scale throughput across large-scale workloads. DALI distinguishes itself by enabling data pipelines to be built once and executed across multiple deep learning frameworks without code cha

LiteRT-LM هو إطار عمل استنتاج عالي الأداء مصمم لتنفيذ النماذج اللغوية الكبيرة محلياً على أجهزة المحمول وسطح المكتب و IoT. يعمل كبيئة تشغيل للنماذج على الجهاز تستخدم تسريع CPU و GPU و NPU لتوفير معالجة منخفضة زمن الاستجابة. يتميز إطار العمل بقدرته على معالجة مدخلات النصوص والصور والصوت من خلال محرك استنتاج متعدد الوسائط واحد. يتميز بخادم HTTP محلي يحاكي نقاط نهاية واجهة برمجة التطبيقات المتوافقة مع OpenAI، وبيئة تشغيل قائمة على WebGPU لتنفيذ النماذج مباشرة داخل متصفح الويب. لضمان موثوقية المخرجات، يتضمن مولد نصوص مقيد يفرض مخططات JSON أو قواعد نحوية على استجابات النموذج. يوفر المشروع قدرات واسعة لإدارة المحادثات ذات الحالة، وفك التشفير التخميني لزيادة سرعات توليد الرموز، وواجهة استدعاء الأدوات التي تربط طلبات النموذج بوظائف خارجية. كما يتضمن تكاملاً متخصصاً لنظام Apple وإضافة مخصصة لتشغيل النماذج في Flutter. يمكن للمستخدمين تنفيذ النماذج من خلال واجهة سطر الأوامر أو دمجها في التطبيقات عبر واجهات برمجة التطبيقات الأصلية.

Flash Linear Attention is a training framework and inference engine for sequence models that use linear attention and state space mechanisms, designed to process long contexts with reduced memory and compute overhead. It provides hardware-optimized token mixing layers and fused CUDA kernels that minimize memory bandwidth and launch overhead across different GPU architectures, and includes a causal inference engine that generates text token-by-token using cached hidden states for efficient autoregressive decoding. The project supports building hybrid sequence models that interleave standard at

TileLang is a Python-embedded domain-specific language compiler that JIT-compiles and autotunes GPU kernels. It uses a tile-based DSL, automatic software pipelining, and parallel autotuning to generate optimized GPU kernels at runtime. It supports tensor core operations with Pythonic syntax, automatic memory management, and thread mapping. The compiler searches over tile sizes, thread counts, and scheduling policies, compiling and benchmarking candidates in parallel to find the fastest kernel. It also caches compiled binaries and tuning results to disk for reuse across sessions. TileLang inc

StableSwarmUI هي واجهة ويب ومنسق خلفي لتوليد الصور باستخدام Stable Diffusion. تعمل كمولد صور GPU موزع وخط أنابيب صور ذكاء اصطناعي معياري، مما يوفر وحدة تحكم مركزية لإدارة طلبات توليد الصور. يتميز النظام بالقدرة على تقسيم مهام التوليد عبر معالجات رسومات متعددة لزيادة إنتاجية الدفعات. يستخدم واجهة محايدة للخلفية للاتصال بالخوادم المحلية، والخوادم البعيدة، وواجهات برمجة التطبيقات السحابية، ويتضمن مصمم سير عمل مرئي قائم على الرسم البياني لتحديد عمليات معالجة الصور المعقدة. تتضمن المنصة نظام إضافات ديناميكي لإضافة ميزات مخصصة وأدوات مؤتمتة لتوفير التبعيات على مستوى النظام. يجمع بين أدوات التوليد المعيارية وواجهات التحرير السريعة مع القدرة على توجيه أعباء العمل عبر الأجهزة الموزعة.