Awesome GitHub RepositoriesPyTorch Tensor Operations

This project is a collection of reference implementations and recipes for deploying, fine-tuning, and running inference with Llama large language models. It serves as a toolkit and implementation guide for adapting pre-trained models to specific tasks and domain-specific datasets. The repository provides frameworks for developing retrieval augmented generation pipelines to ground model responses in external data. It includes guides for executing quantized inference to reduce memory usage and increase processing speed. The toolkit covers a broad range of capabilities including parameter-effic

هذا المشروع عبارة عن تنفيذ PyTorch لمشفر تلقائي تبايني منفصل (discrete variational autoencoder) مصمم لضغط الصور عالية الدقة إلى تمثيلات كامنة منفصلة. يعمل كمشفر تلقائي للصور يقوم بتشفير البيانات البصرية إلى رموز منفصلة وفك تشفير تلك الرموز مرة أخرى إلى صور معاد بناؤها. يستخدم النظام ضاغط صور للمساحة الكامنة لتحويل الصور إلى تنسيق مضغوط ومنفصل. وهذا يسمح بتوليف الصور التوليدي وتحليل ضغط الصور من خلال الانتقال بين البكسلات الخام وتسلسلات الرموز المنفصلة. يغطي التنفيذ تصور المساحة الكامنة وإعادة بناء الصور البصرية من التمثيلات الكامنة المنفصلة لأغراض توليدية.

Demucs is a deep learning stem splitter and AI music de-mixing software used to isolate vocals and instruments from a single audio file. It functions as a PyTorch audio source separation tool that splits mixed tracks into individual stems such as drums, bass, and vocals. The system is a hybrid spectrogram waveform separator that combines spectral and waveform analysis. This approach allows the software to process audio in both frequency and time domains to achieve high-fidelity source separation. The tool provides capabilities for audio source separation, including acapella track extraction

This project is a pretrained model library for PyTorch, providing a collection of convolutional neural network architectures and weights. It serves as a computer vision model zoo for image classification and feature extraction, offering a framework for transfer learning where pretrained networks are adapted for custom image recognition tasks. The library focuses on transforming images into high-level numerical representations and calculating class probability scores. It includes utilities for downloading and initializing standard architectures such as ResNet, Inception, and Xception. Capabil

This is a PyTorch-based implementation of diffusion models for synthesizing photorealistic images and video. It provides a framework for text-to-image and text-to-video generation, as well as unconditional image synthesis. The system utilizes a cascading diffusion pipeline to produce high-resolution imagery by passing low-resolution outputs through a sequence of super-resolution models. It also includes capabilities for image inpainting, allowing the reconstruction of masked or missing regions of visual media guided by surrounding context and text prompts. The project includes tools for diff

هذه مجموعة أدوات تصور PyTorch CNN مصممة لقابلية تفسير الشبكات العصبية. توفر مجموعة من الأدوات لشرح قرارات النموذج وتحليل السلوك الداخلي للشبكات العصبية التلافيفية من خلال تصور التنشيطات، والتدرجات، والمرشحات. يطبق المشروع تقنيات متخصصة لتوليد صور تمثيلية، بما في ذلك تحسينات Deep Dream لتضخيم الأنماط وتوليد الصور الخاصة بالفئات عبر تحسين المدخلات. يتميز أيضاً بمولد خرائط بروز (saliency map) ينتج خرائط حرارية قائمة على التدرج لتحديد مناطق الصورة المحددة التي تؤثر على نتيجة التصنيف. تغطي مجموعة الأدوات قدرات أوسع لتحليل الطبقات، مثل إعادة بناء تمثيلات المدخلات من التنشيطات الداخلية وتصور مرشحات الشبكة. تتضمن طرقاً لتصور التدرج وتقنيات تقليل الضوضاء لتحسين وضوح خرائط البروز.

This project is a PyTorch implementation of the YOLOv3 object detection architecture. It functions as a real-time object detector and computer vision framework designed to identify and locate multiple objects within images using bounding boxes and class labels. The system allows for both the use of pretrained weights for immediate image analysis and the training of custom models using datasets with bounding box annotations. It provides a programmatic interface to integrate detection capabilities directly into other software applications. The framework includes tools for model evaluation to m

wav2letter is an automatic speech recognition toolkit and deep learning framework designed to convert audio speech signals into written text. It functions as a distributed training system and an inference engine for building and deploying neural network architectures. The system enables the training of large-scale speech models across multiple compute nodes using custom architecture files and structured recipes. It includes an inference engine that allows these trained models to be executed within Python workflows to transform audio sequences into text. The framework covers the full speech r

gpt-fast is a PyTorch transformer inference engine designed for low-latency text generation. It functions as a distributed GPU inference library, a quantized model runner, and a speculative decoding framework. The system utilizes a speculative decoding workflow where a small draft model predicts token sequences for verification by a larger model to accelerate generation. It supports quantized model execution to reduce memory footprint and implements tensor parallelism to split computations across multiple GPUs. The project includes a standardized evaluation harness to measure the accuracy an

gpt-fast is a PyTorch transformer inference engine designed for text generation using a native tensor library implementation. It provides a runtime for executing large language models without the need for external C++ extensions. The project implements speculative decoding to accelerate generation by using a small draft model for token prediction and a larger model for verification. It further optimizes performance through a compiled prefill stage and a multi-GPU tensor parallelism library that shards linear layers across multiple graphics processing units. Memory efficiency is managed throu

Argos Translate is an open-source Python library for offline neural machine translation. It provides a toolkit for translating text between languages using locally installed models, with support for GPU acceleration and intermediate language pivoting when a direct translation model is not available. The project offers multiple interfaces for translation, including a command-line interface for terminal-based workflows, a graphical user interface for users without programming knowledge, and a REST API server for integration with other applications. It includes a language model package manager t

هذا المشروع عبارة عن سلسلة دروس للتعلم العميق ومنهج تعليمي مصمم لتدريس أساسيات PyTorch. يعمل كدليل تدريب مهيكل لإتقان بنية الشبكة العصبية، والتمايز التلقائي، واستخدام الموترات ورسوم الحساب الديناميكية. يركز المنهج على التطبيقات العملية، وتحديداً توجيه تطوير أنظمة التوصية، ونماذج الإعلانات، وشبكات الاهتمام للتنبؤ بتفضيلات المستخدم. كما يوفر محتوى تعليمياً للتنبؤ بالسلاسل الزمنية ومعالجة البيانات المتسلسلة. تغطي المادة مجموعة واسعة من قدرات التعلم العميق، بما في ذلك بناء نماذج لتصنيف الصور والنصوص بالإضافة إلى البيانات المهيكلة. تدمج سير عمل لتسريع GPU، وتصور مقاييس التدريب، وإنشاء واجهات قائمة على الويب لاختبار تنبؤات النموذج. يتم تقديم المشروع كمجموعة من دفاتر Jupyter.

هذا المشروع عبارة عن إطار عمل ومجموعة تنفيذ مبنية على PyTorch للتصنيف الخاضع للإشراف للنصوص الصينية. يعمل كمصنف نصوص للتعلم العميق مصمم لأتمتة عملية تصنيف وتنظيم مستندات اللغة الصينية في فئات محددة مسبقاً. يوفر إطار العمل مجموعة من معماريات الشبكات العصبية، بما في ذلك TextCNN و Transformer و FastText. ويسمح باختيار ونمذجة طوبولوجيات مختلفة للنماذج من خلال تنفيذ معياري، مما يتيح تقييم نماذج تسلسلية مختلفة على مجموعات بيانات محددة. يغطي النظام سير عمل كاملاً للتعلم العميق في معالجة اللغات الطبيعية، مستخدماً تحويل النصوص إلى متجهات (vectorization) بناءً على التضمين (embedding) ونمذجة التسلسل الموزونة بالانتباه (attention-weighted) لاستخراج الأنماط الدلالية من النصوص الخام.

هذا تنفيذ تعلم عميق بـ PyTorch لتدريب نماذج لغات تعتمد على المحولات (Transformers). يعمل كمدرب GPU موزع وإطار عمل مصمم لتحسين نماذج التنبؤ بالنصوص لزيادة السرعة وكفاءة العينة. يتميز المشروع باستخدامه لمحسن الوزن Newton-Schulz. تطبق هذه الطريقة عملية تكرارية للحفاظ على تحديثات المعلمات شبه المتعامدة ومصفوفات الوزن، مما يحسن كفاءة العينة ويقلل من عبء الذاكرة أثناء عملية التدريب. يغطي إطار العمل قدرات واسعة في حوسبة GPU الموزعة، بما في ذلك توازي البيانات لتوسيع نطاق أحمال العمل عبر معالجات رسومات متعددة. كما يدمج تقنيات تحسين الشبكة العصبية مثل تحسين الزخم التكراري ومعالجة الدفعات عالية الإنتاجية.

pygcn هي مكتبة وإطار عمل لـ PyTorch لتنفيذ شبكات التلافيف الرسومية (graph convolutional networks). توفر أدوات لتصنيف العقد شبه الخاضع للإشراف وتوليد تضمينات العقد من البيانات ذات الهيكل الرسومي. يحول النظام عقد الرسم البياني إلى متجهات منخفضة الأبعاد بناءً على أنماط الجوار والتشابهات المحلية. يُمكّن من التنبؤ بتسميات العقد من خلال الاستفادة من كل من مجموعة صغيرة من الأمثلة المصنفة وطوبولوجيا الرسم البياني الكلية. تغطي المكتبة تحليل البيانات العلائقية والتعلم الرسومي شبه الخاضع للإشراف. تتضمن بدائيات حسابية لتمرير الرسائل، وتحويل المجاورة، والتطبيع المتماثل.

StarGAN هو إطار عمل لترجمة الصور إلى صور في PyTorch مصمم لتركيب الأنماط والسمات البصرية عبر مجالات متعددة. ينفذ شبكة خصوم توليدية (GAN) تعمل كمترجم صور للتعلم العميق لتعديل خصائص بصرية محددة داخل مجموعة بيانات صور. يستخدم إطار العمل نموذجًا موحدًا واحدًا للتعامل مع الترجمات بين مجالات صور متعددة بدلاً من الحاجة إلى أزواج منفصلة من النماذج. وهو تطبيق بحثي يتعلم التعيينات بين سمات الصور المختلفة دون الحاجة إلى بيانات تدريب مقترنة. يغطي المشروع تدريب وتحسين النماذج التوليدية، بما في ذلك تطبيق نقاط فحص النماذج المدربة مسبقًا للاستدلال. كما يوفر أدوات لإعداد وتنظيم مجموعة بيانات الصور بناءً على التصنيفات والتقسيمات.

هذا المشروع هو تطبيق PyTorch لهندسة EfficientDet المصممة لاكتشاف الكائنات في الوقت الفعلي. يوفر شبكة عصبية ومحرك استدلال قادراً على تحديد وتحديد مواقع كائنات متعددة داخل الصور أو تدفقات الفيديو. يتضمن التنفيذ نماذج رؤية حاسوبية مدربة مسبقاً بأوزان محسنة، مما يتيح الاستدلال الفوري والضبط الدقيق دون الحاجة إلى التدريب من الصفر. يغطي المشروع خط الأنابيب الكامل لتحسين نموذج الرؤية الحاسوبية، بما في ذلك تدريب اكتشاف الكائنات المخصص وتحسين وزن النموذج. ويدمج مكونات هيكلية مثل دمج الميزات ثنائي الاتجاه، والهندسة العصبية ذات النطاق المركب، ومقترحات المنطقة القائمة على المرساة (anchor-based) لموازنة سرعة الاستدلال ودقة الاكتشاف.

هذا إطار عمل لاكتشاف الكائنات بـ PyTorch ينفذ كاشف الصندوق المتعدد بلقطة واحدة (Single Shot MultiBox Detector) لتحديد وتوطين كائنات متعددة داخل الصور والفيديو. يوفر المشروع معمارية شبكة عصبية مصممة لاكتشاف الكائنات بلقطة واحدة، والتي تتنبأ بصناديق التحديد وتسميات الفئات في تمريرة واحدة. يتضمن التنفيذ كاشف كائنات في الوقت الفعلي قادراً على معالجة تدفقات الفيديو المباشرة لتتبع وتسمية الكائنات عبر الإطارات المتسلسلة. كما يتميز بخط أنابيب تدريب رؤية حاسوبية كامل لإعداد مجموعات بيانات الصور وتدريب أوزان النموذج. يغطي إطار العمل سير العمل من البداية إلى النهاية لمهام الرؤية، بما في ذلك تحميل مجموعة البيانات، وتدريب نموذج التعلم العميق مع تسريع الأجهزة، وتقييم الأداء الكمي باستخدام مقاييس ونصوص مخصصة.

moco هو تطبيق بلغة PyTorch لـ momentum contrast مصمم للتعلم الذاتي للتمثيل المرئي. يعمل كإطار عمل بحثي لاستخراج ميزات الصور عالية المستوى من مجموعات البيانات غير المصنفة من خلال تعظيم التشابه بين وجهات نظر مختلفة لنفس الصورة. يستخدم النظام بنية مشفر غير متماثلة تتكون من مشفر عبر الإنترنت سريع التعلم ومشفر زخم بطيء التطور لتحقيق استقرار التدريب. ويعتمد نهجاً قائماً على القاموس يقارن صور الاستعلام مقابل قائمة ديناميكية من العينات السلبية لتعلم ميزات مرئية مميزة دون تصنيف بشري يدوي. يغطي إطار العمل سير عمل التعلم التبايني من البداية إلى النهاية، بما في ذلك التعلم الذاتي للتمثيل المرئي وتحليل الصور غير المصنفة. ويستفيد من عمليات الموتر المسرعة بواسطة GPU لحساب تشابه المتجهات عالي الأبعاد وتدريب النماذج.

Kaolin هي مكتبة تعلم عميق ثلاثية الأبعاد لـ PyTorch توفر مجموعة شاملة من الأدوات لمعالجة الهندسة ثلاثية الأبعاد، ومحاكاة الفيزياء، وتصور البيانات، والعرض القائم على التدرج لرؤية الكمبيوتر. تتضمن المكتبة عارضاً ثلاثي الأبعاد قابلاً للتمايز ومجموعة أدوات معالجة هندسية لتحويل وتحويل التمثيلات ثلاثية الأبعاد مثل الشبكات (meshes) والسحب النقطية (point clouds). كما تتميز بمحرك محاكاة فيزياء ثلاثي الأبعاد لحساب التفاعلات الفيزيائية والاصطدامات بين الكائنات والمشاهد ثلاثية الأبعاد. توفر مجموعة الأدوات أدوات مساعدة لتصور البيانات ثلاثية الأبعاد، بما في ذلك إنشاء طرق عرض تفاعلية ورسوم متحركة دوارة. تغطي الإمكانيات الإضافية إدارة مجموعات البيانات ثلاثية الأبعاد، ومعالجة البيانات مسبقاً، وعرض التمثيل ثلاثي الأبعاد.