6 dépôts
Utilities for identifying and verifying the presence of specific hardware accelerators in the current environment.
Distinct from Hardware Acceleration: Focuses on the detection and discovery of available hardware (e.g., CUDA, MPS) rather than the drivers or the act of offloading computation.
Explore 6 awesome GitHub repositories matching operating systems & systems programming · Hardware Availability Detection. Refine with filters or upvote what's useful.
OpenBLAS est une bibliothèque haute performance pour les sous-programmes d'algèbre linéaire de base qui fournit des opérations de matrice et de vecteur optimisées. Elle sert de backend mathématique multi-architecture et de framework de calcul numérique conçu pour exécuter des calculs mathématiques complexes et une analyse numérique à haute vitesse. La bibliothèque fonctionne comme une bibliothèque mathématique CPU optimisée qui détecte le matériel au moment de l'exécution pour appliquer les noyaux d'opération les plus efficaces pour le processeur spécifique. Elle prend en charge plusieurs cibles CPU grâce à une combinaison d'implémentations optimisées en assembleur et en C. Le projet couvre l'algèbre linéaire haute performance, l'optimisation de l'architecture CPU et l'infrastructure de calcul scientifique. Il inclut des capacités pour la gestion des ressources de calcul numérique, telles que le contrôle de l'allocation des threads pour les charges de travail lourdes sur les systèmes partagés.
Implements runtime utilities for identifying and verifying the presence of specific CPU hardware features to select optimized paths.
mmcv is a foundation library for computer vision based on PyTorch. It provides a comprehensive system for constructing convolutional neural networks, a toolkit for image and video preprocessing, and a collection of high-performance deep learning vision operators. The project is distinguished by its hardware-accelerated kernels for complex operations such as deformable convolutions and region pooling. It features a configuration-driven framework that allows for the dynamic instantiation of network layers and the registration of custom modules without modifying code. The library covers a broad
Provides utilities to detect the availability of hardware accelerators like CUDA, MLU, and MPS in the environment.
GluonTS est une bibliothèque de séries temporelles probabilistes et un framework de prévision par deep learning. Il fournit une boîte à outils pour construire, entraîner et évaluer des architectures de réseau neuronal qui prédisent les valeurs futures sous forme de distributions de probabilité pour quantifier l'incertitude. Le projet se distingue en prenant en charge la prévision zero-shot et en intégrant diverses approches de modélisation, y compris les réseaux neuronaux probabilistes profonds et des wrappers pour des bibliothèques statistiques externes telles que Prophet et R forecast. Il implémente des primitives architecturales spécialisées comme les convolutions causales et les réseaux résiduels inversibles pour empêcher la fuite d'informations et mapper les représentations latentes en distributions de probabilité valides. Le framework couvre une surface d'ingénierie de données complète, y compris la mise à l'échelle des séries temporelles, les transformations bijectives et la modélisation hiérarchique. Il utilise Apache Arrow et Parquet pour la diffusion d'ensembles de données haute performance et la gestion de l'accès aléatoire. Pour l'évaluation des modèles, il inclut une suite d'évaluation pour mesurer la précision des prévisions et la couverture probabiliste en utilisant des métriques comme la perte quantile et les scores de probabilité de rang continu. La bibliothèque prend en charge le déploiement de modèles via l'intégration avec Amazon SageMaker.
Detects if the environment supports GPU acceleration to optimize computation hardware allocation.
Arduino CLI est une interface en ligne de commande pour compiler, téléverser et gérer les bibliothèques et les cœurs de cartes pour le matériel compatible Arduino. Il fonctionne comme un gestionnaire de chaîne d'outils pour microcontrôleurs et un outil de programmation matérielle, fournissant des utilitaires pour découvrir et installer les définitions de plateformes et les compilateurs requis pour diverses architectures matérielles. Le projet comprend un démon de développement compatible RPC qui permet aux programmes externes de déclencher des opérations internes et de gérer les flux de travail électroniques automatisés par programmation. Il inclut également un débogueur matériel interactif pour le dépannage en temps réel du code s'exécutant sur des appareils physiques. L'outil couvre la gestion des cartes et des bibliothèques, y compris l'analyse des dépendances, la synchronisation des index et l'intégration de dépôts tiers. Ses capacités de construction et de déploiement englobent la compilation du code source, le téléversement de binaires et l'installation de bootloaders, soutenues par la surveillance de la sortie série et la détection du matériel connecté. L'utilitaire fournit la génération de complétion pour le shell et gère les paramètres d'environnement via un système de configuration basé sur des fichiers.
Identifies and recognizes compatible hardware devices attached to the system via communication ports.
gpustat est un utilitaire d'interface en ligne de commande pour surveiller les processeurs graphiques NVIDIA en temps réel. Il suit les performances matérielles, y compris la température, l'utilisation de la mémoire et l'utilisation, tout en affichant les processus logiciels actifs utilisant le GPU. L'outil fonctionne à la fois comme un moniteur visuel et un exportateur de données, capable de convertir l'état du GPU et les informations du pilote au format JSON pour une utilisation avec des scripts d'analyse externes et des systèmes de surveillance. Les capacités incluent le suivi périodique des métriques via le polling, la vérification de la disponibilité du matériel et le filtrage des périphériques par index pour isoler un matériel spécifique.
Verifies the presence and accessibility of NVIDIA GPUs using error-safe driver calls.
This project is a Kubernetes device plugin designed for graphics hardware resource management. It implements a standardized plugin protocol to register physical accelerators with the cluster scheduler, enabling the automated allocation and scheduling of hardware-accelerated workloads. The system focuses on multi-tenant GPU sharing to maximize hardware utilization. It achieves this through various sharing strategies, including the logical partitioning of monolithic hardware units into isolated segments and time-slicing to interleave execution cycles across multiple concurrent containers. The
Scans local host paths and system files to identify and verify the presence of physical accelerators.