6 रिपॉजिटरी
Awesome GitHub RepositoriesHigh-Performance Optimizer Implementations
Optimized versions of standard optimizers designed to reduce synchronization and memory bottlenecks.
Distinct from Adam Optimizers: Focuses on the performance implementation of optimizers rather than the mathematical algorithm itself
Explore 6 awesome GitHub repositories matching artificial intelligence & ml · High-Performance Optimizer Implementations. Refine with filters or upvote what's useful.
Awesome High-Performance Optimizer Implementations GitHub Repositories
AI के साथ बेहतरीन रिपॉजिटरी खोजें।हम AI का उपयोग करके सबसे सटीक रिपॉजिटरी खोजेंगे।
- nvidia/apex
NVIDIA/apex
8,972GitHub पर देखेंApex is a high-performance toolkit for PyTorch designed to coordinate distributed training, execute fused GPU kernels, manage mixed precision, and implement optimized distributed optimizers. It provides specialized tools for scaling model training across multiple GPUs and nodes to increase processing speed and throughput. The library features high-performance implementations of Adam and LAMB optimizers to reduce synchronization overhead and memory bottlenecks. It utilizes fused CUDA kernels to combine neural network operations, reducing memory overhead and increasing execution speed. The too
Provides high-performance Adam and LAMB implementations to reduce synchronization overhead during large-scale training.
Python - ppwwyyxx/tensorpack
ppwwyyxx/tensorpack
6,287GitHub पर देखेंTensorpack एक उच्च-प्रदर्शन TensorFlow ट्रेनिंग फ्रेमवर्क और वितरित डीप लर्निंग टूलकिट है। यह निष्पादन गति और आर्किटेक्चरल लचीलेपन पर ध्यान देने के साथ न्यूरल नेटवर्क्स बनाने और प्रशिक्षित करने के लिए उपकरणों का एक सूट प्रदान करता है। प्रोजेक्ट एक न्यूरल नेटवर्क ऑप्टिमाइज़ेशन सूट के रूप में कार्य करता है, जो ट्रेनिंग ओवरहेड को कम करने के लिए उच्च-दक्षता निष्पादन पैटर्न लागू करता है। यह एक समानांतर डेटा लोडिंग पाइपलाइन के रूप में कार्य करता है, जो बड़े डेटासेट को प्रोसेस करते समय थ्रूपुट को अधिकतम करने के लिए स्वचालित समानांतरकरण का उपयोग करता है। टूलकिट डेटा-समानांतर रणनीतियों का उपयोग करके कई GPUs और कंप्यूट क्लस्टर्स में वितरित प्रशिक्षण को कवर करती है। इसकी क्षमताओं में बड़े पैमाने पर डेटासेट प्रोसेसिंग और ट्रेनिंग थ्रूपुट बढ़ाने के लिए प्रदर्शन ऑप्टिमाइज़ेशन शामिल है।
Increases throughput and reduces overhead by implementing high-efficiency execution patterns instead of standard interfaces.
Python - tencent/tnn
Tencent/TNN
4,641GitHub पर देखेंTNN एक डीप लर्निंग इन्फरेंस फ्रेमवर्क है जिसे मोबाइल, डेस्कटॉप और सर्वर हार्डवेयर पर प्री-ट्रेंड न्यूरल नेटवर्क को निष्पादित करने के लिए डिज़ाइन किया गया है। यह एक हार्डवेयर-त्वरित रनटाइम और मॉडल कम्प्रेशन टूलकिट के रूप में कार्य करता है, जो विविध वातावरणों में मॉडल तैनात करने के लिए एक एकीकृत इंटरफ़ेस प्रदान करता है। इस फ्रेमवर्क में विभिन्न ट्रेनिंग फ्रेमवर्क से मॉडल को एक मानकीकृत आंतरिक फॉर्मेट में बदलने के लिए एक ONNX मॉडल कन्वर्टर शामिल है। यह मॉडल कम्प्रेशन टूल—जिसमें वेट क्वांटाइज़ेशन और स्टेटिक-कोड प्रूनिंग शामिल है—और एक मेमोरी मैनेजमेंट सिस्टम के संयोजन के माध्यम से खुद को अलग करता है जो RAM उपयोग को कम करने के लिए गैर-आश्रित नोड्स के बीच बफर का पुन: उपयोग करता है। यह सिस्टम मेमोरी एक्सेस को कम करने के लिए ऑपरेटर फ्यूजन के माध्यम से प्रदर्शन को अनुकूलित करता है और विशेष प्रोसेसर और GPU का लाभ उठाने के लिए प्लेटफ़ॉर्म-विशिष्ट बैकएंड का उपयोग करता है। यह लो-प्रिसिजन गणना और हार्डवेयर-विशिष्ट ट्यूनिंग के माध्यम से निष्पादन गति को और बढ़ाता है।
Optimizes execution flow by fusing operators to reduce memory access and kernel startup overhead.
C++ - tingsongyu/pytorch-tutorial-2nd
TingsongYu/PyTorch-Tutorial-2nd
4,555GitHub पर देखेंThis project is a comprehensive instructional resource and course for building neural networks using PyTorch. It covers the fundamental building blocks of deep learning, including tensor manipulation, automatic differentiation, and the construction of modular neural network components. The repository serves as a technical guide for several specialized domains. It provides implementation details for computer vision tasks such as image classification, object detection, and semantic segmentation, as well as natural language processing workflows involving transformers, recurrent networks, and gen
Combines multiple neural network layers into single kernels to minimize memory access during inference.
Jupyter Notebookcomputer-visiondeepsortdiffusion-models - uxlfoundation/onednn
uxlfoundation/oneDNN
4,009GitHub पर देखेंoneDNN is a library for deep learning acceleration that provides optimized building blocks for neural network training and inference. It manages tensor computation across CPU and GPU hardware, enabling the execution of high-performance primitives for model training and neural network inference optimization. The project distinguishes itself through hardware-specific kernel optimization and the use of just-in-time compilation to target specific processor instruction sets. It supports quantized neural network execution using both static and dynamic quantization to reduce memory usage and increas
Reduces inference overhead by fusing neural network primitives with subsequent post-operations into single kernels.
C++aarch64amxavx512 - hyperai/tvm-cn
hyperai/tvm-cn
3,813GitHub पर देखेंThis project is a collection of technical guides and manuals for the Apache TVM compiler stack translated into Simplified Chinese. It provides translated documentation focusing on deep learning compilation and the transformation of machine learning models into optimized executable code. The documentation covers the use of hardware backend guides for deploying models across CPUs, GPUs, and specialized accelerators. It also includes references for intermediate representations and graph-level optimizations used to compile tensor programs.
Supports merging consecutive neural network layers into single kernels to minimize memory access and processing time.
TypeScriptapachechinese-simplifieddeep-learning
