2 रिपॉजिटरी
Transformer architectures that utilize a bidirectional encoder to process inputs and an autoregressive decoder to generate outputs.
Distinct from Encoder-Decoder Generation Methods: The candidates are either vision-specific or overly narrow; this covers the general NLP encoder-decoder architecture.
Explore 2 awesome GitHub repositories matching artificial intelligence & ml · Encoder-Decoder Transformers. Refine with filters or upvote what's useful.
यह विविध नेचुरल लैंग्वेज प्रोसेसिंग कार्यों को एक एकीकृत टेक्स्ट-टू-टेक्स्ट समस्या के रूप में मानने के लिए एक मशीन लर्निंग फ्रेमवर्क है। यह बड़े पैमाने पर ट्रांसफॉर्मर मॉडल को प्री-ट्रेन और फाइन-ट्यून करने के लिए एक टूलकिट प्रदान करता है, जो एक ऐसी प्रणाली का उपयोग करता है जहां इनपुट और आउटपुट दोनों को रॉ टेक्स्ट अनुक्रमों के रूप में स्वरूपित किया जाता है। फ्रेमवर्क अपने डिस्ट्रीब्यूटेड ट्रेनिंग सिस्टम के लिए जाना जाता है, जो कई TPU कोर में मॉडल वेट्स और ट्रेनिंग बैच को स्केल करने के लिए मेश-आधारित रणनीतियों का उपयोग करता है। यह कॉन्फ़िगर करने योग्य मिश्रण दरों का उपयोग करके विविध डेटासेट को एक ही ट्रेनिंग स्ट्रीम में जोड़कर मल्टी-टास्क लर्निंग का समर्थन करता है, जिससे एक ही मॉडल विभिन्न भाषा कार्यों को संभालने में सक्षम होता है। सिस्टम एनकोडर-डिकोडर आर्किटेक्चर, टेक्स्ट जनरेशन के लिए बीम-सर्च डिकोडिंग, और ट्रांसफर लर्निंग वर्कफ़्लो सहित क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। इसमें NLP डेटासेट तैयारी, मॉडल प्रदर्शन मूल्यांकन, और प्रोडक्शन सर्विंग के लिए प्रशिक्षित चेकपॉइंट्स को एक्सपोर्ट करने के लिए उपयोगिताएँ शामिल हैं। लाइब्रेरी विकास में तेजी लाने के लिए विभिन्न आकारों के प्री-ट्रेंड मॉडल चेकपॉइंट्स को लोड करने का समर्थन करती है।
Provides a transformer architecture featuring a bidirectional encoder and an autoregressive decoder for sequence-to-sequence tasks.
यह प्रोजेक्ट एक व्यापक मशीन लर्निंग शैक्षिक संसाधन और ट्यूटोरियल श्रृंखला है जिसे इंटरैक्टिव Jupyter Notebooks के संग्रह के रूप में वितरित किया गया है। यह मशीन लर्निंग लाइफसाइकिल के एंड-टू-एंड कार्यान्वयन के लिए व्यावहारिक Python उदाहरण प्रदान करता है, जिसमें सुपरवाइज्ड और अनसुपरवाइज्ड लर्निंग, डीप लर्निंग और रीइन्फोर्समेंट लर्निंग शामिल हैं। यह संसाधन ट्रांसफॉर्मर, जेनरेटिव एडवरसैरियल नेटवर्क और कन्वेन्शनल न्यूरल नेटवर्क सहित जटिल आर्किटेक्चर के लिए विस्तृत कार्यान्वयन गाइड प्रदान करके खुद को अलग करता है। इसमें सिम्युलेटेड वातावरण के भीतर Q-learning और Deep Q-Networks का उपयोग करके रीइन्फोर्समेंट लर्निंग एजेंट विकसित करने के लिए विशेष कोर्सवेयर भी शामिल है। सामग्री डेटा साइंस क्षमताओं की एक विस्तृत श्रृंखला को कवर करती है, जिसमें डेटा इंजीनियरिंग पाइपलाइन, फ़ीचर एन्कोडिंग और डाइमेंशनलिटी रिडक्शन शामिल हैं। यह क्रॉस-वैलिडेशन और डायग्नोस्टिक मेट्रिक्स के माध्यम से मॉडल मूल्यांकन पर व्यापक सामग्री प्रदान करती है, साथ ही नेचुरल लैंग्वेज प्रोसेसिंग, सेंटीमेंट एनालिसिस और जेनरेटिव AI जैसे उन्नत विषय भी शामिल हैं। पूरा पाठ्यक्रम Jupyter Notebooks के भीतर इंटरैक्टिव निष्पादन के लिए डिज़ाइन किया गया है, जो निष्पादन योग्य कोड, रिच टेक्स्ट और विज़ुअलाइज़ेशन को जोड़ता है।
Implements transformer architectures using encoder-decoder structures for processing and generating sequential information.