1 مستودع
Awesome GitHub RepositoriesOptimization References
Technical study materials focusing on the theoretical and practical aspects of model efficiency.
Distinct from Efficient LLM Development: Focuses on educational reference material rather than the active process of developing efficient models
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Optimization References. Refine with filters or upvote what's useful.
Awesome Optimization References GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- afshinea/stanford-cme-295-transformers-large-language-models
afshinea/stanford-cme-295-transformers-large-language-models
4,509عرض على GitHubهذا المشروع هو دليل دراسة دورة تقنية شامل ومرجع لتعلم بنيات وطرق تدريب المحولات (Transformers) ونماذج اللغة الكبيرة. يعمل كنظرة عامة تقنية لفهم كيفية معالجة الشبكات العصبية للبيانات وكيفية مواءمة سلوك النموذج مع أهداف أداء محددة. يوفر المستودع أدلة متخصصة حول العديد من المجالات الرئيسية لتطوير النماذج. يتضمن ذلك مراجع مفصلة لبنيات المحولات، وأطر عمل التنفيذ للتوليد المعزز بالاسترجاع وسير عمل الوكلاء، وأدلة تقنية لتحسين النماذج وضبطها بدقة. يغطي المحتوى مجموعة واسعة من القدرات، بما في ذلك الضبط الدقيق الخاضع للإشراف، والتكيف منخفض الرتبة، والمواءمة القائمة على التفضيلات. كما يتناول كفاءة النموذج من خلال التكميم، والتقطير، وبنيات خليط الخبراء، إلى جانب دراسة آليات الانتباه الذاتي والانتباه السريع.
Provides a technical study of quantization and distillation techniques to reduce memory usage and increase efficiency.
