2 مستودعات
Technical documentation and tutorials for implementing parameter-efficient fine-tuning techniques.
Distinguishing note: Focuses on educational guides for fine-tuning techniques rather than the implementation libraries themselves.
Explore 2 awesome GitHub repositories matching education & learning resources · Model Optimization Guides. Refine with filters or upvote what's useful.
This project is an open-source educational resource providing structured, step-by-step guides for fine-tuning large language models. It focuses on adapting pre-trained transformer-based causal models to custom datasets, enabling users to transfer specific writing styles or domain knowledge into generative AI models. The repository distinguishes itself by emphasizing parameter-efficient training techniques, specifically low-rank adaptation. By providing practical implementations for updating only a small subset of model weights, it allows for the customization of massive neural networks on con
Offers technical guidance on implementing low-rank adaptation techniques to optimize model performance with minimal overhead.
هذا المشروع هو دليل دراسة دورة تقنية شامل ومرجع لتعلم بنيات وطرق تدريب المحولات (Transformers) ونماذج اللغة الكبيرة. يعمل كنظرة عامة تقنية لفهم كيفية معالجة الشبكات العصبية للبيانات وكيفية مواءمة سلوك النموذج مع أهداف أداء محددة. يوفر المستودع أدلة متخصصة حول العديد من المجالات الرئيسية لتطوير النماذج. يتضمن ذلك مراجع مفصلة لبنيات المحولات، وأطر عمل التنفيذ للتوليد المعزز بالاسترجاع وسير عمل الوكلاء، وأدلة تقنية لتحسين النماذج وضبطها بدقة. يغطي المحتوى مجموعة واسعة من القدرات، بما في ذلك الضبط الدقيق الخاضع للإشراف، والتكيف منخفض الرتبة، والمواءمة القائمة على التفضيلات. كما يتناول كفاءة النموذج من خلال التكميم، والتقطير، وبنيات خليط الخبراء، إلى جانب دراسة آليات الانتباه الذاتي والانتباه السريع.
Offers technical documentation and tutorials for implementing parameter-efficient fine-tuning and model optimization techniques.