Awesome GitHub RepositoriesPositional Embedding Layers

This project is an educational platform and research toolkit designed to teach deep learning through a combination of mathematical theory, visual diagrams, and executable code. It provides a comprehensive environment for building, training, and evaluating neural networks, grounding complex concepts in interactive computational notebooks that allow for hands-on experimentation. The framework distinguishes itself by interleaving theoretical foundations—including linear algebra, calculus, and probability—with practical implementations across multiple industry-standard libraries. It supports flex

PlugNPlay-Modules is a collection of reusable PyTorch computer vision modules and deep learning architectural components. It provides a library of standardized building blocks for constructing neural networks, focusing on attention mechanisms, signal processing layers, and feature fusion modules. The project is distinguished by its extensive variety of attention primitives, covering spatial, channel, and temporal weighting, as well as specialized variants like deformable, frequency-enhanced, and linear-complexity attention. It also implements advanced signal processing tools within the neural

DeiT هو إطار عمل محول رؤية (vision transformer) لـ PyTorch مصمم لتصنيف الصور. ينفذ معمارية قائمة على المحولات تعالج الصور كتسلسلات من الرقع المسطحة باستخدام طبقات الانتباه الذاتي ونمذجة التسلسل الواعية بالموقع بدلاً من المرشحات التلافيفية. يركز المشروع على التدريب الفعال للبيانات من خلال إطار عمل لتقطير المعرفة. يسمح هذا النظام لنموذج الطالب بتقليد التسميات اللينة لنموذج معلم عالي الأداء لتحسين الدقة والتعميم، خاصة عند التدريب على مجموعات بيانات أصغر. تغطي المكتبة دورة حياة التطوير الكاملة، بما في ذلك تدريب تصنيف الصور، وتحسين فقدان الإنتروبيا المتقاطعة، ونشر الأوزان المدربة مسبقاً للاستنتاج. كما تتضمن أداة قياس لتقييم أداء النموذج ودقته مقابل مجموعات البيانات القياسية.

Neuraloperator is a library for learning mappings between infinite-dimensional function spaces, serving as a tool to accelerate physics simulations and partial differential equation solving. It implements resolution-invariant models and spectral neural networks that can produce consistent predictions regardless of the input grid resolution or spatial discretization. The framework incorporates physics-informed neural networks that enforce physical constraints and differential equations through specialized loss functions. It utilizes Fourier transforms and spectral projections to process multid