1 مستودع
Awesome GitHub RepositoriesTokenizer Asset Loading
Loading specific tokenizer vocabulary and merge rules from remote repositories.
Distinct from Remote Model Loading: Focuses on the tokenizer configuration specifically, whereas remote model loading usually refers to the weights
Explore 1 awesome GitHub repository matching devops & infrastructure · Tokenizer Asset Loading. Refine with filters or upvote what's useful.
Awesome Tokenizer Asset Loading GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- setzer22/llama-rs
setzer22/llama-rs
6,150عرض على GitHubllama-rs هو محرك استنتاج للنماذج اللغوية الكبيرة محلياً تم تنفيذه بلغة Rust. يتيح تنفيذ حسابات النموذج على الأجهزة المحلية لتوليد استجابات نصية من مطالبات المستخدم. يستخدم المشروع عمليات الموتر القائمة على Rust وتعيين النموذج في الذاكرة المباشرة للتعامل مع الجبر الخطي عالي الأداء وتحميل الأوزان بكفاءة. يدمج تكميم الأوزان لتقليل أثر الذاكرة للنماذج عن طريق تحويل الأوزان عالية الدقة إلى تنسيقات أصغر. يتضمن النظام واجهة سطر أوامر لجلسات الدردشة التفاعلية والمطالبات الفردية، إلى جانب استمرارية الجلسة المدعومة بالملفات لحفظ واستعادة سجلات المحادثة. كما يوفر أدوات لاسترجاع تكوينات المقسم (tokenizer) من المراكز البعيدة وأدوات لحساب درجات الحيرة لتقييم أداء النموذج.
Retrieves model-specific vocabulary and merge rules from external hubs for consistent encoding.
Rust
