Awesome GitHub RepositoriesGeneration Speed Optimizers

Guidance is a control framework and generation orchestrator for large language models. It provides a programming layer to steer model outputs through structured templates, schema enforcement, and logical flow management. The framework distinguishes itself by interleaving model generation with local code execution, enabling the use of loops and conditional branching within a single session. It employs grammar-based token constraints and regular expressions to force models to sample only from tokens that satisfy a specific structural format, ensuring strict adherence to predefined data models.

This project is a systematic framework for English language acquisition that applies structured workflows and cognitive strategies to build linguistic proficiency. It focuses on the construction of a linguistic knowledge base, enabling learners to master vocabulary and grammar through methodical training. The methodology is distinguished by its use of computer science concepts, such as mental-model-based learning and memory buffers, to organize progression. It emphasizes a cognitive-translation bypass to develop target language thinking, reducing mental latency by processing information direc

StreamDiffusion is an interactive generative AI framework and inference engine designed for the low-latency delivery of image and video streams. It provides a real-time Stable Diffusion pipeline for text-to-image and image-to-image generation, enabling the creation of continuous generative image streams with minimized computational delay. The framework optimizes throughput using a pre-computed cache engine and residual-based guidance approximation to reduce the number of required model passes. It further manages GPU load through similarity-based frame skipping, which avoids redundant computat

This project is a framework for training and sampling generative models designed to produce high-quality images in few steps. It provides implementations for image generation models that transform random noise into structured visual data through an optimized sampling process. The system specializes in accelerating image generation through consistency distillation and consistency training. It includes tools to transform pre-trained diffusion models into faster versions by distilling knowledge from a teacher model into a student model, as well as methods to train consistency models from scratch

Mace هو إطار عمل لاستنتاج تعلم الآلة للهاتف المحمول ومحرك تسريع عتادي. يعمل كبيئة تشغيل لتنفيذ نماذج الشبكات العصبية على أجهزة الهاتف المحمول، وتوزيع الحسابات عبر وحدات المعالجة المركزية (CPUs)، ووحدات معالجة الرسوميات (GPUs)، ووحدات المعالجة العصبية (NPUs). يتضمن المشروع محول نماذج متعدد المنصات لتحويل الشبكات العصبية المدربة مسبقاً من تنسيقات صناعية مختلفة إلى تمثيلات محسنة للهاتف المحمول. كما يوفر مشفراً للشبكات العصبية يحول أوزان النماذج إلى كود مصدري لحماية الملكية الفكرية من الهندسة العكسية. يدير إطار العمل الموارد الموجودة على الجهاز من خلال تحسين تخصيص الذاكرة وضبط إعدادات طاقة الشريحة. كما يعالج أداء التنفيذ من خلال تحسين الخوارزميات الرياضية وتقسيم الحسابات للحفاظ على استجابة الواجهة.

LightGlue هو إطار عمل للتعلم العميق مصمم لمطابقة الميزات المحلية وتقدير المراسلات عالية السرعة بين أزواج الصور. يعمل كنموذج مطابقة للرؤية الحاسوبية يحدد النقاط الرئيسية المتقابلة عبر وجهات نظر مختلفة. يستخدم النظام بنية شبكة عصبية تكيفية تعمل على تحسين سرعة الاستدلال ديناميكيًا عن طريق تقليم عمقها وعرضها بناءً على أزواج الصور المدخلة. يستخدم هذا النهج آلية انتباه بنمط transformer وانتباه عبر الصور لحساب الارتباطات بين واصفات الميزات. تتضمن عملية المطابقة حلقة تحسين تكرارية وإيقافًا مبكرًا ديناميكيًا لإيقاف الحساب بمجرد استيفاء عتبات الثقة. تدعم هذه القدرات خط أنابيب رؤية حاسوبية أوسع لمحاذاة الصور في الوقت الفعلي وتحسين استدلال الشبكة العصبية.

هذا المشروع عبارة عن مورد تعليمي شامل ودورة تدريبية لبناء الشبكات العصبية باستخدام PyTorch. يغطي اللبنات الأساسية للتعلم العميق، بما في ذلك معالجة الموترات (tensors)، والتمايز التلقائي، وبناء مكونات الشبكة العصبية المعيارية. يعمل المستودع كدليل تقني للعديد من المجالات المتخصصة. يوفر تفاصيل تنفيذ لمهام رؤية الكمبيوتر مثل تصنيف الصور، واكتشاف الكائنات، والتجزئة الدلالية، بالإضافة إلى سير عمل معالجة اللغات الطبيعية التي تتضمن المحولات (transformers)، والشبكات المتكررة، والنماذج التوليدية. بالإضافة إلى ذلك، يتضمن مرجعاً للذكاء الاصطناعي التوليدي، مع التركيز بشكل خاص على تركيب الصور عبر نماذج الانتشار (diffusion models) والشبكات التنافسية. تمتد المادة إلى تحسين النماذج وخطوط أنابيب النشر. تغطي تقنيات لتقليل حجم النموذج وزيادة سرعة الاستنتاج من خلال التكميم (quantization) وتصدير النماذج إلى تنسيقات مثل ONNX وTensorRT. تشمل مجالات القدرة الأخرى هندسة البيانات للتحميل المتوازي، وتقييم النموذج باستخدام مقاييس مخصصة، ونشر نماذج اللغات الكبيرة مفتوحة المصدر. يتم تقديم المشروع بشكل أساسي كسلسلة من دفاتر Jupyter.

يوفر GhostNet مجموعة من معماريات نماذج الذكاء الاصطناعي الفعالة وأنماط تصميم الشبكات العصبية المصممة لتقليل العبء الحسابي واستهلاك الذاكرة. يعمل المشروع كعمود فقري (backbone) لرؤية الحاسوب وكمحول رؤية (vision transformer) خفيف الوزن، مما يحسن التوازن بين دقة التنبؤ وسرعة الاستنتاج. يركز المشروع على تقليل استهلاك الموارد للنشر على الأجهزة المحمولة وأجهزة الحافة (edge hardware). ويحقق ذلك من خلال استخدام تطبيقات محولات الرؤية خفيفة الوزن والمعماريات التي تقلل من إجمالي عدد المعلمات (parameters). تغطي قاعدة الكود مجموعة من القدرات لتحسين الاستنتاج، بما في ذلك تقليل التكاليف الحسابية واستخدام الذاكرة. كما ينفذ أنماط تصميم هيكلية مثل كتل الالتفاف القابلة للفصل بعمق (depthwise-separable convolutional blocks)، والتفافات العمق ذات الاختناق الخطي (linear-bottleneck depthwise convolutions)، وكتل المحولات ذات الأوزان المترابطة (tied-weight transformer blocks) لتقليل زمن انتقال الاستنتاج.

هذا المشروع عبارة عن ترجمة صينية للأدلة التقنية ومراجع واجهة برمجة التطبيقات لإطار عمل التعلم العميق PyTorch. يعمل كقاعدة معرفية مترجمة ومادة مرجعية لجعل وثائق التعلم العميق في متناول غير الناطقين بالإنجليزية. تغطي الوثائق مجموعة شاملة من قدرات PyTorch، بما في ذلك تطوير نماذج الشبكات العصبية، والتمايز التلقائي، وتنفيذ النواة (kernels) في الواجهة الخلفية. يوفر إرشادات مفصلة حول استراتيجيات التدريب الموزع، ونشر النماذج عبر تنسيقات مثل ONNX و C++، وتقنيات تحسين النماذج وتكميمها (quantization) المختلفة. يستخدم المشروع خط أنابيب ترجمة مدفوعاً بالمجتمع ونموذج مساهمة موزعاً للحفاظ على محتوى متزامن مع الإصدارات. يتم تنظيم المواد التقنية باستخدام markdown وعرضها في موقع ويب قابل للتصفح عبر توليد المواقع الثابتة.

هذا المشروع عبارة عن نموذج أساسي لتحويل النص إلى كلام معبر ونظام استنساخ صوتي مصمم لتركيب كلام يشبه الإنسان مع فارق عاطفي ودقة عالية. يعمل كنموذج كلام قابل للضبط يمكنه إنشاء صوت يحاكي شخصاً معيناً باستخدام عينة صوت مرجعية. يتميز النظام بمحرك استنتاج عالي الأداء يستخدم التخزين المؤقت للذاكرة وتجميع الأجهزة لتقليل زمن الوصول أثناء عملية توليد الصوت. كما يسمح بتحسينات جودة التركيب عن طريق تدريب النموذج اللغوي على مجموعات بيانات مخصصة تتكون من ملفات صوتية وتسميات توضيحية مطابقة. يغطي إطار العمل المجالات الأوسع لاستنساخ الصوت المخصص، وتركيب الكلام التعبيري، وضبط نموذج الكلام.

OmniGen2 is a unified image generation model and multimodal large language model designed to handle text-to-image generation, image-to-image tasks, and image editing within a single framework. It functions as a causal language model visual engine capable of generating and editing images based on combined text and visual inputs. The system features in-context visual composition and subject-driven generation, allowing it to extract subjects from reference images and place them into new scenes. It also supports instruction-based image editing, where specific objects or styles are modified via na

MAGI-1 is an autoregressive video generation model designed to synthesize high-resolution video sequences from text prompts and image references. It functions as a generative system for text-to-video, image-to-video, and video-to-video transformations. The model utilizes an autoregressive architecture that treats spatio-temporal patches as a sequence of discrete tokens to maintain temporal motion. It employs a variational autoencoder to compress the spatial and temporal dimensions of video data and uses distillation-based step scaling to allow for inference budget control. The system integra

Paper2Slides is an AI-driven presentation generator and content extractor designed to transform academic papers and scientific documents into structured slides and posters. It utilizes retrieval-augmented generation to distill key data points and identify critical figures while maintaining direct traceability to the original source text. The system functions as an AI slide designer that applies professional themes or custom visual styles defined through natural language. It integrates with external image generation services to produce high-quality visuals and research visualizations for acade