Awesome GitHub RepositoriesAdaptive Optimizers

هذا المشروع هو تنفيذ لمعمارية النموذج اللغوي ALBERT، ويوفر إطار عمل لتدريب وتقييم مصنفات النصوص ونماذج التشابه القائمة على المحولات (Transformers). يتضمن بشكل خاص أصولاً مدربة مسبقاً وأدوات محسنة لتوليد تضمينات دلالية وتمثيلات للنص الصيني. يتميز إطار العمل بأدوات لتحويل نقاط فحص النماذج اللغوية الثقيلة إلى تنسيقات خفيفة الوزن لتمكين الاستنتاج منخفض التأخير على الأجهزة المحمولة. ويستخدم تقنيات محددة لتقليل الأوزان، بما في ذلك مشاركة المعلمات المتقاطعة ومعلمات التضمين الموحدة، للحفاظ على الأداء مع بصمة ذاكرة أصغر. يغطي النظام خط إنتاج كاملاً للمعالجة اللغوية الطبيعية، من تطبيع النص الخام وترميز الكلمات الفرعية إلى التدريب المسبق ذاتي الإشراف باستخدام نمذجة اللغة المقنعة. ويوفر إمكانيات لتكييف المهام اللاحقة، مما يسمح بضبط النماذج المدربة مسبقاً لتحليل تشابه النصوص والتصنيف الخاضع للإشراف. يتضمن المشروع أدوات لتحويل بيانات السجلات الثنائية وتحويل تنسيق النموذج لضمان التوافق عبر منصات التعلم الآلي المختلفة.

This project is a collection of structured study notes and notebooks serving as an educational resource for deep learning and neural network fundamentals. It provides a technical reference for implementing machine learning theory, covering everything from basic network design to the construction of advanced architectures. The material specifically focuses on the implementation of convolutional neural networks for computer vision and sequence models for natural language processing. It includes detailed guidance on building object detection systems, face recognition, and speech transcription mo