awesome-repositories.com
المدونة
MCP
awesome-repositories.com

اكتشف أفضل مستودعات المصادر المفتوحة باستخدام بحث مدعوم بالذكاء الاصطناعي.

استكشفعمليات بحث منسقةبدائل مفتوحة المصدربرمجيات ذاتية الاستضافةالمدونةخريطة الموقع
المشروعخادم MCPحولكيفية ترتيب النتائجالصحافة
قانونيالخصوصيةالشروط
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

5 مستودعات

Awesome GitHub RepositoriesHigh-Performance Inference Modes

Configuration parameters that enable optimized execution paths for production workloads.

Explore 5 awesome GitHub repositories matching artificial intelligence & ml · High-Performance Inference Modes. Refine with filters or upvote what's useful.

Awesome High-Performance Inference Modes GitHub Repositories

اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
  • paddlepaddle/paddleocrالصورة الرمزية لـ PaddlePaddle

    PaddlePaddle/PaddleOCR

    82,412عرض على GitHub↗

    PaddleOCR is a comprehensive optical character recognition framework designed for detecting and transcribing text from images and documents into structured, machine-readable formats. It provides a modular computer vision pipeline that decouples image preprocessing, text detection, and character recognition into independent, configurable stages. This architecture supports automated document digitization and multilingual text recognition, capable of identifying text in over one hundred languages across diverse environments ranging from scanned documents to industrial scenes. The framework disti

    Activates optimized execution paths through specific configuration parameters to boost performance in production environments.

    Pythonai4sciencechineseocrdocument-parsing
    عرض على GitHub↗82,412
  • verl-project/verlالصورة الرمزية لـ verl-project

    verl-project/verl

    22,000عرض على GitHub↗

    This project is a distributed training infrastructure designed for aligning large language models through reinforcement learning. It functions as an end-to-end engine for complex alignment tasks, including proximal policy optimization, direct preference optimization, and iterative self-play. By providing a unified framework for multi-turn interactions and tool-use scenarios, it enables the development of models capable of reasoning and external environment engagement. The framework distinguishes itself through a decoupled architecture that separates model training from sample generation. This

    Accelerates the rollout phase of reinforcement learning using optimized inference engines for efficient sample generation.

    Python
    عرض على GitHub↗22,000
  • modelscope/ms-swiftالصورة الرمزية لـ modelscope

    modelscope/ms-swift

    14,597عرض على GitHub↗

    This project is a comprehensive toolkit designed for the full lifecycle management of large language and multimodal models. It functions as a unified orchestrator that handles the entire development process, ranging from dataset preparation and supervised fine-tuning to advanced reinforcement learning alignment and production-ready inference deployment. The platform distinguishes itself through a specialized reinforcement learning library that supports complex optimization algorithms, including group relative policy optimization and leave-one-out techniques, to improve model instruction-follo

    Serves fine-tuned models using optimized kernels and quantization for efficient production access.

    Pythondeepseek-r1embeddinggrpo
    عرض على GitHub↗14,597
  • paddlepaddle/paddlexالصورة الرمزية لـ PaddlePaddle

    PaddlePaddle/PaddleX

    6,163عرض على GitHub↗

    PaddleX is a PaddlePaddle-based framework for building, deploying, and fine-tuning AI model pipelines, with pre-built support for computer vision, OCR, document analysis, and time series tasks. It offers a toolkit of ready-to-use pipelines for image classification, object detection, segmentation, and pose estimation, alongside an end-to-end OCR document analysis pipeline that extracts text, tables, formulas, and layout information. The platform also includes a dedicated time series forecasting pipeline for analyzing historical data to detect anomalies, classify patterns, and predict future val

    Ships a high-performance inference plugin that automatically selects the optimal backend and configuration for model predictions.

    Pythonai-pipelinesclassificationdeployment
    عرض على GitHub↗6,163
  • mindspore-ai/mindsporeالصورة الرمزية لـ mindspore-ai

    mindspore-ai/mindspore

    4,691عرض على GitHub↗

    MindSpore هو إطار عمل للتعلم العميق مصمم لبناء وتدريب الشبكات العصبية عبر بيئات السحابة والحافة والأجهزة المحمولة. يعمل كنظام تدريب موزع ومجموعة أدوات ذكاء اصطناعي مسرعة بالأجهزة قادرة على تنفيذ أعباء العمل على وحدات المعالجة المركزية (CPUs)، ووحدات معالجة الرسومات (GPUs)، ومعالجات الذكاء الاصطناعي المتخصصة. يتضمن المشروع محرك تمايز آلي يحسب التدرجات من خلال تحويل المصدر والتجميع الثابت. يتيح النظام تدريب النماذج الموزعة عن طريق تقسيم أعباء العمل عبر الأجهزة باستخدام توازي البيانات والنماذج. يغطي إطار العمل نشر الذكاء الاصطناعي عبر المنصات واستنتاج النماذج، باستخدام مجموعة أدوات عالية الأداء لتسريع التنفيذ والخدمة. يوفر النظام تسريعاً متخصصاً لأجهزة Ascend ويدعم تعيين المشغل المستقل عن الأجهزة لخلفيات الأجهزة غير المتجانسة. يمكن تثبيت البيئة عبر مدير الحزم أو تجميعها من المصدر على أنظمة Linux لبيئات معالجات الذكاء الاصطناعي القياسية أو المتخصصة.

    Includes a toolkit that optimizes model execution via graph fusion and quantization to reduce inference latency.

    C++
    عرض على GitHub↗4,691
  1. Home
  2. Artificial Intelligence & ML
  3. Machine Learning
  4. Infrastructure
  5. Model Inference and Serving
  6. Inference Optimization
  7. High-Performance Inference Modes

استكشف الوسوم الفرعية

  • Automatic Backend SelectorsActivate a high-performance inference plugin that automatically selects the optimal backend and configuration to speed up model predictions. **Distinct from High-Performance Inference Modes:** Distinct from High-Performance Inference Modes: focuses on automatic backend selection, not manual configuration parameters.