1 रिपॉजिटरी
Awesome GitHub RepositoriesImplicit Quantization Code Generation
Generates discrete codes via linear projections using frozen codebooks to stabilize neural network training.
Distinct from Code Generation: Unlike software code generation, this refers to the generation of discrete latent codes in a ML model.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Implicit Quantization Code Generation. Refine with filters or upvote what's useful.
Awesome Implicit Quantization Code Generation GitHub Repositories
AI के साथ बेहतरीन रिपॉजिटरी खोजें।हम AI का उपयोग करके सबसे सटीक रिपॉजिटरी खोजेंगे।
- lucidrains/vector-quantize-pytorch
lucidrains/vector-quantize-pytorch
3,968GitHub पर देखेंयह न्यूरल नेटवर्क में डिस्क्रीट लेटेंट रिप्रेजेंटेशन बनाने के लिए वेक्टर और स्केलर क्वांटाइज़ेशन को लागू करने के लिए एक PyTorch लाइब्रेरी है। यह निरंतर वेक्टर को डिस्क्रीट कोड में बदलने के लिए मॉड्यूल और यूटिलिटी का एक सूट प्रदान करती है, जो वेक्टर क्वांटाइज़्ड वेरिएशनल ऑटोएनकोडर जैसे आर्किटेक्चर का समर्थन करती है। लाइब्रेरी कोडबुक स्वास्थ्य और दक्षता बनाए रखने के लिए विशेष तंत्र पेश करती है, जिसमें कोडबुक कोलैप्स को रोकने के लिए रैंडम वेक्टर री-इनिशियलाइज़ेशन और कन्वर्जेंस में तेज़ी लाने के लिए k-means सेंट्रोइड इनिशियलाइज़ेशन शामिल है। यह उच्च रिज़ॉल्यूशन के लिए रिकर्सिव रेसिडुअल क्वांटाइज़ेशन, फ़ीचर सबस्पेस डिवीज़न के लिए मल्टी-हेड पैरेलल क्वांटाइज़ेशन, और हाइपरक्यूब कोड बनाने के लिए फ़ाइनाइट स्केलर क्वांटाइज़ेशन जैसी विविध क्वांटाइज़ेशन रणनीतियों का समर्थन करती है। टूलकिट में एक डिफरेंशिएबल क्वांटाइज़ेशन मॉड्यूल शामिल है जो नॉन-डिफरेंशिएबल क्वांटाइज़ेशन चरणों के माध्यम से बैकप्रोपैगेशन को सक्षम करने के लिए स्ट्रेट-थ्रू एस्टिमेटर और रोटेशन ट्रिक्स का उपयोग करता है। अतिरिक्त क्षमताओं में कोसाइन सिमिलरिटी के माध्यम से एंगुलर डिस्टेंस मैचिंग, फ़ीचर ट्रांसलेशन के लिए ऑर्थोगोनल रेगुलराइज़ेशन, और लर्नेबल स्केलर कोडबुक के माध्यम से लेटेंट स्पेस डिसेंटैंगलमेंट शामिल है।
Produces discrete codes through linear projections using frozen codebooks to improve convergence and prevent collapse.
Pythonartificial-intelligencedeep-learningpytorch
