22 रिपॉजिटरी
The process of training a model on a large general corpus and fine-tuning it for specific downstream tasks.
Distinct from Pre-trained Model Zoos: Focuses on the transfer learning methodology rather than lists of pre-trained models or specific checkpoints.
Explore 22 awesome GitHub repositories matching artificial intelligence & ml · Pre-training Transfer Learning. Refine with filters or upvote what's useful.
This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad
Demonstrates how to use pre-trained models as starting points for new tasks to optimize training.
FastPhotoStyle is an AI image stylization tool and deep learning style transfer framework. It functions as a feature-based image transformer that applies the artistic visual characteristics of a reference image to a target photograph using deep neural networks. The project implements real-time image stylization by utilizing a feed-forward network. This allows the system to execute transformations in a single pass rather than using iterative optimization. The framework covers AI photo editing and deep learning visual effects, specifically focusing on the transformation of image textures and c
Uses a fixed pre-trained encoder to extract semantic feature maps necessary for the style transfer process.
Chinese-BERT-wwm is a pre-trained transformer model and encoder designed for Chinese natural language processing. It converts Chinese text into dense vector representations to be used across various natural language processing applications. The model utilizes a whole word masking strategy during pre-training, masking entire words rather than individual characters. This approach is designed to improve the capture of semantic meaning and language structure within Chinese datasets. The project covers a range of downstream tasks including text classification, sequence labeling, and reading compr
Uses a pre-training and fine-tuning pipeline to adapt the general model to specific Chinese NLP tasks.
ESPnet is a comprehensive speech processing toolkit and PyTorch-based trainer designed for building end-to-end speech recognition, synthesis, and translation models. It provides a structured framework for developing automatic speech recognition systems using transducer and encoder-decoder architectures, alongside engines for text-to-speech synthesis and speech translation pipelines. The project distinguishes itself through a recipe-based workflow execution system that ensures experimental reproducibility by running standardized sequences of scripts for data preparation and model training. It
Supports seeding new models by loading parameters from pre-trained encoders to improve convergence.
TensorFlow-Tutorials is a collection of educational resources and guided tutorials for implementing machine learning models using the TensorFlow framework. It provides instructional material and videos for building deep learning architectures across diverse domains, including computer vision, natural language processing, and time-series prediction. The project offers practical guides for developing specific applications such as image captioning, style transfer, and machine translation. It emphasizes a structured approach to learning, ranging from simple linear models to complex reinforcement
Covers the methodology of training models on general corpora and fine-tuning them for specific tasks.
The PyTorch Tutorials repository is a collection of educational resources that provides step-by-step guidance on building, training, and deploying neural networks using the PyTorch framework. It covers the complete machine learning workflow, from data loading and model definition through optimization loops and model persistence, with dedicated guides for distributed training, model fine-tuning, and deployment. The tutorials offer practical demonstrations of adapting pre-trained models to new tasks through transfer learning, scaling training across multiple GPUs or machines using PyTorch's dis
Demonstrates adapting pre-trained neural networks to new tasks by retraining final layers on custom data.
CodeGeeX is an open-source code model and multilingual large language model designed to generate, translate, and complete source code across multiple programming languages. It functions as an AI coding assistant and a cross-lingual code translator that produces executable code and technical documentation. The project enables natural language programming by turning plain English descriptions into functional programs. It also provides the ability to convert source code from one programming language to another while preserving the original logic and functionality. The system covers a range of c
Uses large-scale pre-training on diverse programming datasets to learn universal structural patterns of code.
यह विविध नेचुरल लैंग्वेज प्रोसेसिंग कार्यों को एक एकीकृत टेक्स्ट-टू-टेक्स्ट समस्या के रूप में मानने के लिए एक मशीन लर्निंग फ्रेमवर्क है। यह बड़े पैमाने पर ट्रांसफॉर्मर मॉडल को प्री-ट्रेन और फाइन-ट्यून करने के लिए एक टूलकिट प्रदान करता है, जो एक ऐसी प्रणाली का उपयोग करता है जहां इनपुट और आउटपुट दोनों को रॉ टेक्स्ट अनुक्रमों के रूप में स्वरूपित किया जाता है। फ्रेमवर्क अपने डिस्ट्रीब्यूटेड ट्रेनिंग सिस्टम के लिए जाना जाता है, जो कई TPU कोर में मॉडल वेट्स और ट्रेनिंग बैच को स्केल करने के लिए मेश-आधारित रणनीतियों का उपयोग करता है। यह कॉन्फ़िगर करने योग्य मिश्रण दरों का उपयोग करके विविध डेटासेट को एक ही ट्रेनिंग स्ट्रीम में जोड़कर मल्टी-टास्क लर्निंग का समर्थन करता है, जिससे एक ही मॉडल विभिन्न भाषा कार्यों को संभालने में सक्षम होता है। सिस्टम एनकोडर-डिकोडर आर्किटेक्चर, टेक्स्ट जनरेशन के लिए बीम-सर्च डिकोडिंग, और ट्रांसफर लर्निंग वर्कफ़्लो सहित क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। इसमें NLP डेटासेट तैयारी, मॉडल प्रदर्शन मूल्यांकन, और प्रोडक्शन सर्विंग के लिए प्रशिक्षित चेकपॉइंट्स को एक्सपोर्ट करने के लिए उपयोगिताएँ शामिल हैं। लाइब्रेरी विकास में तेजी लाने के लिए विभिन्न आकारों के प्री-ट्रेंड मॉडल चेकपॉइंट्स को लोड करने का समर्थन करती है।
Implements a workflow for training models on a large general corpus before refining them on task-specific datasets.
Skorch एक लाइब्रेरी है जो PyTorch न्यूरल नेटवर्क को scikit-learn कम्पैटिबल इंटरफ़ेस में रैप करती है, जिससे डीप लर्निंग मॉडल को मानक मशीन लर्निंग पाइपलाइन और हाइपरपैरामीटर ऑप्टिमाइज़ेशन टूल्स के भीतर उपयोग करने की अनुमति मिलती है। यह एक डेटा एडाप्टर, ट्रेनिंग मैनेजर और ऑप्टिमाइज़ेशन टूल के रूप में कार्य करता है जो डीप लर्निंग मॉड्यूल और पारंपरिक मशीन लर्निंग वर्कफ़्लो के बीच की खाई को पाटता है। यह प्रोजेक्ट PyTorch ट्रेनिंग लाइफसाइकिल को ऑटोमेट करने के लिए एक टूलकिट प्रदान करके खुद को अलग करता है, जिसमें इंटीग्रेटेड चेकपॉइंटिंग, अर्ली स्टॉपिंग और लर्निंग रेट शेड्यूलिंग शामिल है। यह विशिष्ट मॉडल लेयर्स को फ़्रीज़ करने और विशेष कार्यों के लिए प्री-ट्रेंड वेट्स को फ़ाइन-ट्यून करने के लिए यूटिलिटीज के माध्यम से ट्रांसफ़र लर्निंग को सक्षम बनाता है। क्षमता सतह डेटा ट्रांसफ़ॉर्मेशन तक फैली हुई है, जिसमें टैबुलर डेटा और न्यूमेरिकल एरेज़ को टेंसर फ़ॉर्मेट में परिवर्तित करना और टेक्स्ट टोकनाइज़र का रजिस्ट्रेशन शामिल है। यह हार्डवेयर एक्सेलेरेशन चयन, जस्ट-इन-टाइम मॉड्यूल कंपाइलेशन और अनिश्चितता परिमाणीकरण (uncertainty quantification) के लिए प्रोबेबिलिस्टिक डेटा मॉडलिंग के लिए टूल्स भी प्रदान करता है। सिस्टम प्रयोगों को पुनरुत्पादनीय (reproducible) बनाने के लिए हाइपरपैरामीटर्स को कमांड लाइन आर्गुमेंट्स में मैप करने के लिए यूटिलिटीज शामिल करता है।
Provides mechanisms to freeze or unfreeze specific model parameters to facilitate efficient transfer learning.
Gluon-CV एक MXNet कंप्यूटर विज़न लाइब्रेरी है जो प्री-इंप्लीमेंटेड विज़न आर्किटेक्चर और ट्रेनिंग पाइपलाइन्स का एक व्यापक संग्रह प्रदान करती है। यह एक डीप लर्निंग रिसर्च टूलकिट और मॉडल ज़ू के रूप में कार्य करती है, जिसमें इमेज और वीडियो एनालिसिस के लिए अत्याधुनिक प्री-ट्रेंड वेट्स शामिल हैं। इस प्रोजेक्ट में एक विशेष ह्यूमन पोज़ एस्टिमेशन लाइब्रेरी और मॉडल कम्प्रेशन टूलकिट शामिल है। ये टूल्स इन्फरेंस स्पीड बढ़ाने और कंस्ट्रेंड एज हार्डवेयर पर डिप्लॉयमेंट को सुविधाजनक बनाने के लिए डीप लर्निंग मॉडल्स की प्रूनिंग और क्वांटाइज़ेशन की अनुमति देते हैं। यह लाइब्रेरी इमेज क्लासिफिकेशन, ऑब्जेक्ट डिटेक्शन और सिमेंटिक व इंस्टेंस सेगमेंटेशन जैसी विज़न क्षमताओं की एक विस्तृत श्रृंखला को कवर करती है।
Supports adapting pre-trained computer vision models to new image datasets to improve accuracy with limited data.
This is a comprehensive deep learning course delivered entirely through Jupyter Notebooks, designed to teach neural network construction using TensorFlow 2.x. The curriculum follows a sequential-model-first pedagogy, introducing the Sequential API before moving to functional and subclassing approaches, and covers the full spectrum of model building from regression and classification through convolutional neural networks, natural language processing, and time series forecasting. The course is structured around a checkpoint-based training workflow that saves the best model weights during traini
Adapts pre-trained neural networks to new tasks through feature extraction and fine-tuning.
DeepLabCut मार्करलेस 2D और 3D एनिमल पोज़ एस्टिमेशन के लिए एक डीप लर्निंग टूलकिट है। यह एक मोशन ट्रैकिंग सिस्टम के रूप में कार्य करता है जो भौतिक मार्कर्स की आवश्यकता के बिना वीडियो अनुक्रमों में जानवरों पर शारीरिक की-पॉइंट्स की पहचान करता है। यह फ्रेमवर्क विभिन्न प्रजातियों के लिए नेटवर्क्स के प्रशिक्षण में तेज़ी लाने के लिए ट्रांसफर लर्निंग और प्री-ट्रेंड वेट्स की एक लाइब्रेरी का उपयोग करता है। यह वीडियो अनुक्रमों में अद्वितीय पहचान बनाए रखने के लिए मल्टी-इंडिविजुअल आइडेंटिटी ट्रैकिंग को सपोर्ट करता है और लाइव वीडियो फ़ीड्स के लिए रियल-टाइम पोज़ डिटेक्शन प्रदान करता है। यह सिस्टम 3D स्थानिक गति विश्लेषण, शारीरिक मार्कर ट्रैकिंग और सेल्फ-सुपरवाइज्ड प्रेडिक्शन रिफाइनमेंट सहित कंप्यूटर विज़न क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। इसमें प्रशिक्षण डेटा लेबलिंग के लिए यूटिलिटीज और कस्टम न्यूरल नेटवर्क आर्किटेक्चर को इंटीग्रेट करने के लिए एक मॉडल रजिस्ट्री शामिल है। यह सॉफ़्टवेयर विभिन्न ऑपरेटिंग सिस्टम्स में सुसंगत इंस्टॉलेशन और निष्पादन सुनिश्चित करने के लिए Docker कंटेनराइज़ेशन प्रदान करता है।
Utilizes pre-trained foundation models and transfer learning to accelerate training for new animal species.
This repository is a curated study resource of interview questions and answers for data science roles. It covers the core domains of machine learning, statistics, Python programming, SQL databases, deep learning, and algorithmic problem solving. The content is organized as static Markdown files with a structured question-and-answer format, making it easy to read and navigate without any server-side processing. The material distinguishes itself by pairing each question with a detailed explanation and often a code example, covering both conceptual knowledge and practical application. Topics ran
Adapts pre-trained networks to new tasks via fine-tuning, enabling strong performance with limited labeled data.
VITS-fast-fine-tuning छोटे ऑडियो डेटासेट का उपयोग करके विशिष्ट टारगेट आवाज़ों के लिए स्पीच सिंथेसिस मॉडल्स को अनुकूलित करने के लिए एक पाइपलाइन है। यह एक तेज़ स्पीकर अनुकूलन टूल और एक बहुभाषी स्पीच सिंथेसाइज़र के रूप में कार्य करता है जो विभिन्न भाषाओं में बोले गए ऑडियो को जनरेट करने में सक्षम है। यह सिस्टम मेनी-टू-मेनी वॉयस कन्वर्ज़न के लिए एक फ़्रेमवर्क प्रदान करता है, जो मूल भाषाई सामग्री को संरक्षित करते हुए एक स्पीकर की पहचान को दूसरे में बदल देता है। यह ऑडियो क्लिप्स या वीडियो स्रोतों के साथ एक प्री-ट्रेंड मॉडल को फ़ाइन-ट्यून करके टेक्स्ट-टू-स्पीच के लिए आवाज़ के अनुकूलन की अनुमति देता है। यह प्रोजेक्ट एंड-टू-एंड स्पीच सिंथेसिस और ऑडियो प्रोसेसिंग को कवर करता है, जो उच्च-निष्ठा (high-fidelity) ऑडियो उत्पन्न करने के लिए एडवरसैरियल वेवफ़ॉर्म जनरेशन और मोनोटोनिक अलाइनमेंट सर्च का उपयोग करता है। यह बोलने की लय में विविधताओं को प्रबंधित करने के लिए एक स्टोकेस्टिक ड्यूरेशन प्रेडिक्टर को शामिल करता है और प्री-ट्रेंड मॉडल ट्रांसफर का समर्थन करता है।
Adapts a large general speech model to specific target voices using transfer learning from pre-trained weights.
यह प्रोजेक्ट एक नेचुरल लैंग्वेज प्रोसेसिंग सिस्टम है जिसे नेम्ड एंटिटी रिकग्निशन और टेक्स्ट क्लासिफिकेशन के लिए डिज़ाइन किया गया है। यह कच्चे टेक्स्ट से विशिष्ट नामों और प्रमुख जानकारी की पहचान करने के लिए मशीन लर्निंग दृष्टिकोण का उपयोग करता है। यह सिस्टम एक मल्टी-लेयर आर्किटेक्चर लागू करता है जो एम्बेडिंग के लिए प्री-ट्रेन्ड ट्रांसफॉर्मर, सीक्वेंस मॉडलिंग के लिए बाईडायरेक्शनल लॉन्ग शॉर्ट-टर्म मेमोरी और लेबल ट्रांज़िशन के लिए कंडीशनल रैंडम फील्ड को जोड़ता है। यह प्रोजेक्ट विशिष्ट डेटासेट पर इन मॉडल्स को फाइन-ट्यून करके ट्रांसफर लर्निंग का समर्थन करता है। इसमें कस्टम डेटासेट पर मॉडल्स को प्रशिक्षित करने और प्रशिक्षित मॉडल को नेटवर्क सर्विस के रूप में डिप्लॉय करने की क्षमताएं शामिल हैं।
Supports transfer learning by fine-tuning a pre-trained BERT model on task-specific datasets.
यह प्रोजेक्ट एक PyTorch पर्सन री-आइडेंटिफिकेशन फ्रेमवर्क है जिसे विभिन्न कैमरा व्यूज में व्यक्तियों की पहचान करने वाले मॉडल्स को प्रशिक्षित और मूल्यांकन करने के लिए डिज़ाइन किया गया है। यह एक पूर्ण मॉडल ट्रेनिंग पाइपलाइन, छवियों को संख्यात्मक वैक्टर में बदलने के लिए एक डीप लर्निंग फीचर एक्सट्रैक्टर और पहचान पुनर्प्राप्ति सटीकता को मापने के लिए कंप्यूटर विज़न बेंचमार्किंग टूल्स का एक सुइट प्रदान करता है। फ्रेमवर्क में एक विशेष ट्रांसफर लर्निंग टूलकिट शामिल है जो प्रीट्रेन्ड मॉडल्स को फाइन-ट्यून करने के लिए लेयर फ्रीज़िंग, स्टेज्ड लर्निंग रेट ऑप्टिमाइज़ेशन और डिफरेंशियल लर्निंग रेट्स का समर्थन करता है। यह एक एक्स्टेंसिबल इंजन के माध्यम से खुद को अलग करता है जो कस्टम ट्रेनिंग लॉजिक के विकास और हार्ड-सैंपल ट्रिपलेट लॉस माइनिंग और लेबल स्मूथिंग जैसे विशिष्ट ऑप्टिमाइज़ेशन उद्देश्यों के इम्प्लीमेंटेशन की अनुमति देता है। सिस्टम व्यापक डेटासेट प्रबंधन को कवर करता है, जिसमें स्टैंडर्ड बेंचमार्क, बैलेंस्ड बैच सैंपलिंग और इमेज ऑगमेंटेशन के लिए समर्थन शामिल है। यह पुनर्प्राप्ति रैंक और फीचर दूरियों की गणना के लिए मूल्यांकन उपयोगिताएं, साथ ही एक्टिवेशन हीटमैप और रैंक की गई पुनर्प्राप्ति गैलरी उत्पन्न करने के लिए विज़ुअलाइज़ेशन टूल्स प्रदान करता है। यह प्रोजेक्ट Python में इम्प्लीमेंट किया गया है और अपने डीप लर्निंग ऑपरेशंस के लिए PyTorch का लाभ उठाता है।
Implements a two-step process that freezes base layers to pretrain new layers before proceeding to end-to-end training.
This project is a comprehensive instructional resource and course for building neural networks using PyTorch. It covers the fundamental building blocks of deep learning, including tensor manipulation, automatic differentiation, and the construction of modular neural network components. The repository serves as a technical guide for several specialized domains. It provides implementation details for computer vision tasks such as image classification, object detection, and semantic segmentation, as well as natural language processing workflows involving transformers, recurrent networks, and gen
Uses specialized loss functions to organize embedding vectors for improved image similarity search.
TorchGeo is a PyTorch library designed for deep learning on geospatial data, providing a framework for building and training neural networks for tasks such as semantic segmentation, object detection, and change detection. It serves as a comprehensive pipeline for remote sensing, featuring specialized dataset loaders and multispectral image preprocessing tools. The library is distinguished by a dedicated remote sensing model zoo and extensive support for transfer learning, allowing users to integrate pre-trained weights optimized for specific satellite sensors. It also includes support for sel
Provides extensive support for leveraging pre-trained weights from diverse sensors to train models on small datasets.
This project is a comprehensive educational resource and tutorial handbook for building, training, and deploying machine learning models using TensorFlow 2. It serves as a structured learning guide covering core deep learning concepts, including neural network architectures, automatic differentiation, and tensor operations. The handbook provides technical guidance on optimizing execution efficiency through GPU memory management, distributed training, and model quantization. It also includes detailed manuals for constructing high-performance data pipelines and exporting models for production s
Provides techniques for adapting pre-trained model backbones to new tasks through fine-tuning.
Lightly is a self-supervised learning framework and computer vision data curation tool designed to manage large image datasets and train models on unlabeled data. It functions as a PyTorch vision library and dataset management SDK, providing tools to convert raw images into high-dimensional vectors for similarity search, visualization, and feature extraction. The project implements a variety of self-supervised architectures, including MoCo, SimCLR, VICReg, Barlow Twins, and masked image modeling. It distinguishes itself by combining these learning frameworks with active learning capabilities,
Facilitates transferring self-supervised pre-trained networks to downstream tasks like classification and detection.