3 مستودعات
Awesome GitHub RepositoriesBinary Record Data Loading
Optimized mechanisms for reading large-scale datasets from binary files to minimize I/O overhead during model training.
Distinct from Binary Memory Loading: None of the candidates cover high-performance dataset loading for ML; they focus on memory emulation, native plugins, or specific file formats.
Explore 3 awesome GitHub repositories matching data & databases · Binary Record Data Loading. Refine with filters or upvote what's useful.
Awesome Binary Record Data Loading GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- kingoflolz/mesh-transformer-jax
kingoflolz/mesh-transformer-jax
6,376عرض على GitHubهذا المشروع هو إطار عمل للمحولات (transformers) قائم على JAX ومدرب لنماذج اللغة الكبيرة مصمم لبناء وتدريب النماذج الموزعة على مسرعات الأجهزة TPU. يوفر نظاماً للتدريب المسبق والضبط الدقيق للنماذج ذاتية الانحدار عن طريق تقسيم الأوزان والحسابات عبر شبكة من الأجهزة لتقليل حمل الذاكرة وزيادة سرعة المعالجة. يتضمن إطار العمل منسق حساب TPU لتوفير الموارد وأتمتة تثبيت التبعيات عبر العقد الموزعة البعيدة. كما يتميز بمحول أوزان النموذج القادر على تحويل وإعادة تقسيم نقاط التحقق (checkpoints) بين تكوينات الأجهزة المختلفة والدقة العددية. يغطي المشروع قدرات أوسع تشمل إدارة نقاط التحقق المقسمة للتخزين السحابي، وتحميل البيانات القائم على التدفق مع استعادة الحالة، وتوليد النصوص القائم على النواة لاستنتاج النموذج. كما يدعم تسريع الأجهزة المجمع بـ XLA لمجموعات TPU و GPU ويوفر أدوات لقياس الأداء مقابل مهام اللغة الموحدة.
Reads training batches from binary record files using parsing functions to feed distributed accelerators without memory overflow.
Python - dmlc/gluon-cv
dmlc/gluon-cv
5,922عرض على GitHubGluon-CV هي مكتبة رؤية حاسوبية لـ MXNet توفر مجموعة شاملة من معماريات الرؤية وخطوط أنابيب التدريب المنفذة مسبقاً. تعمل كمجموعة أدوات لأبحاث التعلم العميق وحديقة نماذج تحتوي على أوزان مدربة مسبقاً ومتطورة لتحليل الصور والفيديو. يتضمن المشروع مكتبة متخصصة لتقدير وضعية الإنسان ومجموعة أدوات لضغط النماذج. تسمح هذه الأدوات بتقليم وتكميم نماذج التعلم العميق لزيادة سرعة الاستدلال وتسهيل النشر على أجهزة الحافة المقيدة. تغطي المكتبة مجموعة واسعة من قدرات الرؤية، بما في ذلك تصنيف الصور، واكتشاف الكائنات، والتجزئة الدلالية والمثالية. كما توفر أدوات لتحليل الفيديو، مثل التعرف على الإجراءات، وتتبع الكائنات، وتقدير العمق أحادي العين. يتم دعم التدريب من خلال خطوط أنابيب مؤتمتة وأحمال عمل موزعة على وحدات GPU متعددة لتسريع تقارب النموذج.
Provides optimized mechanisms for reading large-scale image datasets from binary files to reduce I/O overhead during training.
Pythonaction-recognitioncomputer-visiondeep-learning - brightmart/albert_zh
brightmart/albert_zh
3,982عرض على GitHubهذا المشروع هو تنفيذ لمعمارية النموذج اللغوي ALBERT، ويوفر إطار عمل لتدريب وتقييم مصنفات النصوص ونماذج التشابه القائمة على المحولات (Transformers). يتضمن بشكل خاص أصولاً مدربة مسبقاً وأدوات محسنة لتوليد تضمينات دلالية وتمثيلات للنص الصيني. يتميز إطار العمل بأدوات لتحويل نقاط فحص النماذج اللغوية الثقيلة إلى تنسيقات خفيفة الوزن لتمكين الاستنتاج منخفض التأخير على الأجهزة المحمولة. ويستخدم تقنيات محددة لتقليل الأوزان، بما في ذلك مشاركة المعلمات المتقاطعة ومعلمات التضمين الموحدة، للحفاظ على الأداء مع بصمة ذاكرة أصغر. يغطي النظام خط إنتاج كاملاً للمعالجة اللغوية الطبيعية، من تطبيع النص الخام وترميز الكلمات الفرعية إلى التدريب المسبق ذاتي الإشراف باستخدام نمذجة اللغة المقنعة. ويوفر إمكانيات لتكييف المهام اللاحقة، مما يسمح بضبط النماذج المدربة مسبقاً لتحليل تشابه النصوص والتصنيف الخاضع للإشراف. يتضمن المشروع أدوات لتحويل بيانات السجلات الثنائية وتحويل تنسيق النموذج لضمان التوافق عبر منصات التعلم الآلي المختلفة.
Provides optimized mechanisms for reading large-scale binary datasets to minimize I/O overhead.
Pythonalbertbertchinese-corpus
