Awesome GitHub RepositoriesHigh-Performance Inference Modes

PaddleOCR is a comprehensive optical character recognition framework designed for detecting and transcribing text from images and documents into structured, machine-readable formats. It provides a modular computer vision pipeline that decouples image preprocessing, text detection, and character recognition into independent, configurable stages. This architecture supports automated document digitization and multilingual text recognition, capable of identifying text in over one hundred languages across diverse environments ranging from scanned documents to industrial scenes. The framework disti

This project is a distributed training infrastructure designed for aligning large language models through reinforcement learning. It functions as an end-to-end engine for complex alignment tasks, including proximal policy optimization, direct preference optimization, and iterative self-play. By providing a unified framework for multi-turn interactions and tool-use scenarios, it enables the development of models capable of reasoning and external environment engagement. The framework distinguishes itself through a decoupled architecture that separates model training from sample generation. This

This project is a comprehensive toolkit designed for the full lifecycle management of large language and multimodal models. It functions as a unified orchestrator that handles the entire development process, ranging from dataset preparation and supervised fine-tuning to advanced reinforcement learning alignment and production-ready inference deployment. The platform distinguishes itself through a specialized reinforcement learning library that supports complex optimization algorithms, including group relative policy optimization and leave-one-out techniques, to improve model instruction-follo

PaddleX is a PaddlePaddle-based framework for building, deploying, and fine-tuning AI model pipelines, with pre-built support for computer vision, OCR, document analysis, and time series tasks. It offers a toolkit of ready-to-use pipelines for image classification, object detection, segmentation, and pose estimation, alongside an end-to-end OCR document analysis pipeline that extracts text, tables, formulas, and layout information. The platform also includes a dedicated time series forecasting pipeline for analyzing historical data to detect anomalies, classify patterns, and predict future val

MindSpore एक डीप लर्निंग फ्रेमवर्क है जिसे क्लाउड, एज और मोबाइल एनवायरनमेंट में न्यूरल नेटवर्क बनाने और प्रशिक्षित करने के लिए डिज़ाइन किया गया है। यह एक डिस्ट्रीब्यूटेड ट्रेनिंग सिस्टम और हार्डवेयर एक्सीलरेटेड AI टूलकिट के रूप में कार्य करता है जो CPUs, GPUs और विशेष AI प्रोसेसर पर वर्कलोड निष्पादित करने में सक्षम है। इस प्रोजेक्ट में एक ऑटोमैटिक डिफरेंशिएशन इंजन शामिल है जो सोर्स ट्रांसफॉर्मेशन और स्टेटिक कंपाइलेशन के माध्यम से ग्रेडिएंट्स की गणना करता है। यह डेटा और मॉडल पैरेललिज्म का उपयोग करके हार्डवेयर में वर्कलोड को विभाजित करके डिस्ट्रीब्यूटेड मॉडल ट्रेनिंग को सक्षम बनाता है। यह फ्रेमवर्क क्रॉस-प्लेटफॉर्म AI डिप्लॉयमेंट और मॉडल इन्फरेंस को कवर करता है, जो निष्पादन और सर्विंग को तेज करने के लिए एक उच्च-प्रदर्शन टूलकिट का उपयोग करता है। यह Ascend हार्डवेयर के लिए विशेष त्वरण प्रदान करता है और विषम डिवाइस बैकएंड के लिए हार्डवेयर-अज्ञेयवादी ऑपरेटर मैपिंग का समर्थन करता है। एनवायरनमेंट को पैकेज मैनेजर के माध्यम से इंस्टॉल किया जा सकता है या मानक या विशेष AI प्रोसेसर एनवायरनमेंट के लिए Linux सिस्टम पर सोर्स से कंपाइल किया जा सकता है।