1 रिपॉजिटरी
Training neural networks using reduced precision for weights and gradients to lower memory consumption.
Distinct from Training Memory Optimizers: Focuses on the bit-precision of the training process rather than general memory optimization techniques like gradient checkpointing.
Explore 1 awesome GitHub repository matching data & databases · Low Bitwidth Training. Refine with filters or upvote what's useful.
Tensorpack एक उच्च-स्तरीय TensorFlow न्यूरल नेटवर्क फ्रेमवर्क और रिसर्च लाइब्रेरी है जिसे डीप लर्निंग मॉडल्स बनाने और प्रशिक्षित करने के लिए डिज़ाइन किया गया है। यह कंप्यूटर विज़न, जनरेटिव टास्क, रीइन्फोर्समेंट लर्निंग और नेचुरल लैंग्वेज प्रोसेसिंग के लिए पुनरुत्पादक (reproducible) न्यूरल नेटवर्क आर्किटेक्चर का संग्रह प्रदान करता है। प्रोजेक्ट एक विशेष डीप लर्निंग डेटा पाइपलाइन के माध्यम से खुद को अलग करता है जो समानांतर डेटा लोडिंग और स्ट्रीमिंग के लिए शुद्ध Python का उपयोग करती है। इसमें डेटा-समानांतर रणनीतियों के माध्यम से वर्कलोड वितरित करने के लिए एक मल्टी-GPU ट्रेनिंग ऑर्केस्ट्रेटर और मॉडल सेलियंसी और एक्टिवेशन मैप्स को विज़ुअलाइज़ करने के लिए एक समर्पित इंटरप्रिटेबिलिटी टूलकिट शामिल है। फ्रेमवर्क क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है, जिसमें ऑब्जेक्ट डिटेक्शन और सिमेंटिक सेगमेंटेशन के लिए कंप्यूटर विज़न पाइपलाइन्स, स्पीच और टेक्स्ट के लिए अनुक्रम मॉडलिंग, और रीइन्फोर्समेंट लर्निंग एजेंट विकास शामिल है। यह वेट क्वांटाइज़ेशन और लो बिटविड्थ ट्रेनिंग के लिए मॉडल ऑप्टिमाइज़ेशन उपकरण भी प्रदान करता है, साथ ही शैक्षणिक शोध पत्रों को पुनरुत्पादित करने और लीगेसी Caffe मॉडल वेट्स को परिवर्तित करने के लिए यूटिलिटीज भी प्रदान करता है।
Reduces memory usage by training convolutional neural networks with limited bitwidth for weights and gradients.