10 रिपॉजिटरी
Techniques for reducing the memory footprint and computational complexity of trained neural networks.
Distinct from Neural Network Optimizers: Shortlist candidates focused on training optimizers (convergence) rather than post-training size reduction.
Explore 10 awesome GitHub repositories matching artificial intelligence & ml · Neural Network Model Compression. Refine with filters or upvote what's useful.
This project is a Python implementation of the Faster R-CNN object detection framework. It serves as a convolutional neural network library and tool for locating and classifying multiple objects within images. The framework provides a pre-trained model implementation that allows for object detection inference without manual training. It supports the full lifecycle of object detection, including training detectors on visual datasets to identify and bound specific object classes. The system covers capabilities for computer vision model evaluation, neural network optimization to reduce model si
Provides methods to reduce model size and complexity to improve processing speed and memory efficiency.
यह प्रोजेक्ट शैक्षिक Jupyter Notebooks का एक संग्रह है जो TensorFlow फ्रेमवर्क का उपयोग करके न्यूरल नेटवर्क निर्माण और टेंसर ऑपरेशंस पर ट्यूटोरियल प्रदान करता है। यह मशीन लर्निंग के छात्रों के लिए एक शैक्षिक रिपॉजिटरी और इम्प्लीमेंटेशन गाइड के रूप में कार्य करता है। यह सूट विशिष्ट उन्नत आर्किटेक्चर पर केंद्रित है, जिसमें इमेज क्लासिफिकेशन के लिए कन्वेन्शनल नेटवर्क, ट्रेनिंग स्टेबिलिटी के लिए स्किप कनेक्शन वाले रेजिडुअल नेटवर्क, और जेनरेटिव मॉडलिंग व डेटा सिंथेसिस के लिए वेरिएशनल ऑटोएनकोडर शामिल हैं। इसमें फीचर एक्सट्रैक्शन और डाइमेंशनलिटी रिडक्शन करने के लिए डीनोइजिंग और डीप ऑटोएनकोडर बनाने के लिए गाइड भी शामिल हैं। रिपॉजिटरी प्रेडिक्टिव मॉडलिंग के व्यापक दायरे को कवर करती है, जिसमें निरंतर मानों और बाइनरी परिणामों की भविष्यवाणी के लिए लीनियर, पॉलिनोमियल और लॉजिस्टिक रिग्रेशन के इम्प्लीमेंटेशन शामिल हैं।
Provides implementations of autoencoders to compress input data into lower-dimensional latent representations.
AutoGPTQ एक मॉडल कम्प्रेशन टूलकिट और पोस्ट-ट्रेनिंग क्वांटाइजेशन फ्रेमवर्क है जिसे लार्ज लैंग्वेज मॉडल्स के मेमोरी फुटप्रिंट को कम करने के लिए डिज़ाइन किया गया है। यह न्यूरल नेटवर्क वेट्स को कंप्रेस करने के लिए GPTQ एल्गोरिदम का उपयोग करता है, जिससे हार्डवेयर आवश्यकताएं कम होती हैं और VRAM उपयोग कम होता है। यह प्रोजेक्ट एक इन्फरेंस एक्सेलेरेटर के रूप में कार्य करता है जो ऑप्टिमाइज़्ड कर्नेल प्रदान करता है जो टोकन जनरेशन की गति को बढ़ाता है। इसमें मॉडल आर्किटेक्चर एक्स्टेंसिबिलिटी की सुविधा है, जो कॉन्फ़िगर करने योग्य पैटर्न्स के माध्यम से नई मॉडल संरचनाओं में क्वांटाइजेशन क्षमताओं को जोड़ने की अनुमति देती है। यह फ्रेमवर्क एक व्यापक क्वांटाइजेशन पाइपलाइन को कवर करता है, जिसमें लेयर-वार वेट कम्प्रेशन, कैलिब्रेशन-आधारित स्केल अनुमान और प्रिसिजन-विशिष्ट मेमोरी मैपिंग शामिल है। इसमें भाषा और सारांश कार्यों में सटीकता पर क्वांटाइजेशन के प्रभाव को मापने के लिए मॉडल परफॉरमेंस मूल्यांकन के लिए सिस्टम भी शामिल हैं।
Reduces the memory footprint and computational complexity of trained neural networks through quantization.
This project is a collection of TensorFlow machine learning examples providing reference implementations for various neural network paradigms. It covers supervised, unsupervised, reinforcement, and sequential learning models. The repository includes implementations for convolutional neural networks focused on image classification and ranking, as well as recurrent neural networks for time-series forecasting and sequence-to-sequence translation. It further provides examples of reinforcement learning agents trained via reward optimization and unsupervised learning techniques such as autoencoders
Uses autoencoder architectures to compress image data into lower-dimensional latent representations for noise removal.
This research framework provides a deep learning driving simulator and a multimodal data pipeline for autonomous vehicle research. It centers on the creation of synchronized autonomous vehicle datasets, which combine high-frequency vehicle telemetry with camera frames to train neural networks. The project implements a convolutional neural network trainer specifically designed to predict steering angles and vehicle transition states from visual data. It features generative capabilities, using autoencoders and transition models to synthesize driving environments and simulate future vehicle move
Uses autoencoders to learn compressed representations of driving data for image synthesis and model checkpoints.
Pretrained-Language-Model is a machine learning library and natural language processing toolkit designed for pretraining, tokenizing, and compressing large language models using transformer architectures and specialized optimization techniques. It supports Chinese and multilingual natural language processing tasks, including text classification and conversational response generation. The framework provides specialized capabilities for training large-scale autoregressive and contextual language models, alongside model compression techniques like knowledge distillation and quantization to reduc
Reduces neural network size and computational overhead using quantization and distillation.
Instructor-embedding एक नेचुरल लैंग्वेज प्रोसेसिंग फ्रेमवर्क है जिसे असंरचित टेक्स्ट को उच्च-आयामी न्यूमेरिकल वैक्टर में बदलने के लिए डिज़ाइन किया गया है। ट्रांसफॉर्मर-आधारित एनकोडर आर्किटेक्चर का उपयोग करके, यह सिस्टम बड़े डेटासेट में सिमेंटिक रिट्रीवल, डेटा वर्गीकरण और समानता विश्लेषण की सुविधा प्रदान करता है। यह फ्रेमवर्क इंस्ट्रक्शन-कंडीशन्ड वेक्टर प्रोजेक्शन के माध्यम से खुद को अलग करता है, जो अतिरिक्त प्रशिक्षण की आवश्यकता के बिना विशिष्ट कार्यों के लिए प्रदर्शन को बेहतर बनाने के लिए नेचुरल लैंग्वेज निर्देशों को सीधे एम्बेडिंग प्रक्रिया में शामिल करता है। यह एक कंट्रास्टिव लर्निंग लाइब्रेरी के रूप में कार्य करता है, जो उपयोगकर्ताओं को विशिष्ट डोमेन के लिए विशेष एम्बेडिंग बनाने के लिए कस्टम डेटासेट पर प्री-ट्रेंड लैंग्वेज मॉडल को फाइन-ट्यून करने की अनुमति देता है। प्रोजेक्ट वेक्टर अभ्यावेदन (representations) के प्रबंधन के लिए टूल का एक व्यापक सूट प्रदान करता है, जिसमें मानकीकृत मेट्रिक्स के खिलाफ मॉडल सटीकता को बेंचमार्क करने और त्वरित समानता खोज के लिए एम्बेडिंग को इंडेक्स करने की क्षमताएं शामिल हैं। संसाधन-सीमित वातावरण में डिप्लॉयमेंट का समर्थन करने के लिए, फ्रेमवर्क में मेमोरी उपयोग को कम करने और अनुमान (inference) की गति को तेज करने के लिए मिक्स्ड-प्रिसिजन मॉडल क्वांटाइजेशन जैसी अनुकूलन विशेषताएं शामिल हैं।
Reduces the memory footprint and increases inference speed by lowering the numerical precision of neural network parameters.
Knowledge-Distillation-Zoo is a framework for neural network model compression that facilitates the transfer of learned patterns from large teacher models to smaller student architectures. It provides a modular environment for executing training pipelines designed to reduce the computational requirements of deep learning models while maintaining predictive accuracy. The library implements knowledge transfer through both logit-based mimicry and feature-map alignment, allowing students to replicate the classification behavior and internal representations of a teacher. It supports teacher-studen
Reduces the size and computational requirements of deep learning models by transferring knowledge from large teacher networks.
This project provides a TensorFlow implementation of the Stable Diffusion model, serving as a generative engine for creating and modifying visual content. It functions as a machine learning architecture that translates natural language descriptions into high-quality images by iteratively refining noise within a compressed latent space. The system enables a variety of generative tasks, including text-to-image synthesis, image inpainting to fill missing or masked regions, and image editing to transform existing visuals based on text prompts. Beyond static imagery, the framework supports the gen
Compresses high-resolution pixel data into compact latent representations to reduce computational overhead.
This project provides a comprehensive educational curriculum and research resource for deep learning, focusing on the theoretical and technical foundations of neural network implementation. It serves as a structured academic guide for building and training complex models from scratch, covering the essential mathematical primitives, computational graph construction, and automatic differentiation mechanisms required for modern machine learning. The repository distinguishes itself through its extensive coverage of generative modeling and specialized neural architectures. It includes practical im
Reduces high-dimensional input data into compact latent representations using autoencoder architectures.