2 مستودعات
Awesome GitHub RepositoriesEncoder-Decoder Transformers
Transformer architectures that utilize a bidirectional encoder to process inputs and an autoregressive decoder to generate outputs.
Distinct from Encoder-Decoder Generation Methods: The candidates are either vision-specific or overly narrow; this covers the general NLP encoder-decoder architecture.
Explore 2 awesome GitHub repositories matching artificial intelligence & ml · Encoder-Decoder Transformers. Refine with filters or upvote what's useful.
Awesome Encoder-Decoder Transformers GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- google-research/text-to-text-transfer-transformer
google-research/text-to-text-transfer-transformer
6,528عرض على GitHubهذا إطار عمل لتعلم الآلة لمعالجة مهام معالجة اللغات الطبيعية المتنوعة كمشكلة نص إلى نص موحدة. يوفر مجموعة أدوات للتدريب المسبق والضبط الدقيق لنماذج المحولات واسعة النطاق، مستخدماً نظاماً يتم فيه تنسيق كل من المدخلات والمخرجات كسلاسل نصية خام. يتميز إطار العمل بنظام التدريب الموزع الخاص به، والذي يستخدم استراتيجيات قائمة على الشبكة لتوسيع أوزان النموذج ودفعات التدريب عبر أنوية TPU متعددة. يدعم التعلم متعدد المهام من خلال دمج مجموعات بيانات متنوعة في تدفق تدريب واحد باستخدام معدلات خليط قابلة للتكوين، مما يسمح لنموذج واحد بالتعامل مع مهام لغوية مختلفة. يغطي النظام مجموعة واسعة من القدرات بما في ذلك بنيات المشفر-فك التشفير (encoder-decoder)، وفك التشفير بالبحث الشعاعي (beam-search) لتوليد النصوص، وتدفقات عمل التعلم بالنقل. يتضمن أدوات لإعداد مجموعات بيانات NLP، وتقييم أداء النموذج، وتصدير نقاط التحقق المدربة لخدمة الإنتاج. تدعم المكتبة تحميل نقاط تحقق النماذج المدربة مسبقاً بأحجام مختلفة لتسريع التطوير.
Provides a transformer architecture featuring a bidirectional encoder and an autoregressive decoder for sequence-to-sequence tasks.
Python - rasbt/machine-learning-book
rasbt/machine-learning-book
5,239عرض على GitHubهذا المشروع عبارة عن مورد تعليمي شامل لتعلم الآلة وسلسلة دروس مقدمة كمجموعة من دفاتر Jupyter التفاعلية. يوفر تطبيقات عملية بلغة Python لدورة حياة تعلم الآلة بالكامل، مغطياً التعلم الخاضع للإشراف وغير الخاضع للإشراف، والتعلم العميق، والتعلم التعزيزي. يتميز المورد بتقديم أدلة تنفيذ مفصلة لمعماريات معقدة، بما في ذلك المحولات (transformers)، والشبكات التنافسية التوليدية (GANs)، والشبكات العصبية التلافيفية (CNNs). كما يتضمن دورات متخصصة لتطوير وكلاء التعلم التعزيزي باستخدام Q-learning وDeep Q-Networks داخل بيئات محاكاة. يغطي المحتوى نطاقاً واسعاً من قدرات علم البيانات، بما في ذلك خطوط أنابيب هندسة البيانات، وترميز الميزات، وتقليل الأبعاد. كما يوفر مواد مكثفة حول تقييم النماذج من خلال التحقق المتقاطع والمقاييس التشخيصية، بالإضافة إلى مواضيع متقدمة مثل معالجة اللغات الطبيعية، وتحليل المشاعر، والذكاء الاصطناعي التوليدي. تم تصميم المنهج بالكامل للتنفيذ التفاعلي داخل دفاتر Jupyter، حيث يجمع بين الكود القابل للتنفيذ والنصوص الغنية والمرئيات.
Implements transformer architectures using encoder-decoder structures for processing and generating sequential information.
Jupyter Notebook
