Awesome GitHub RepositoriesMulti-Dimensional Parallelism

AISystem is a comprehensive AI full-stack infrastructure project covering the entire pipeline from AI chip architecture to high-level training frameworks. It encompasses the development of AI compiler frameworks, inference engines, and distributed training orchestrators designed to coordinate workloads across a heterogeneous compute stack of CPUs, GPUs, and NPUs. The project focuses on the deep integration of software and hardware, employing software-hardware co-design to align tensor layouts with physical memory structures. It provides specialized capabilities for accelerating Transformer mo

This repository provides a collection of reference implementations, toolkits, and orchestration tools for training and deploying large-scale AI models on Cloud TPU hardware. It serves as a framework for managing the lifecycle of accelerator clusters, including hardware orchestration and the provisioning of high-performance compute infrastructure for machine learning workloads. The project specifically enables the pre-training of foundation models, large language models, and complex reasoning architectures through distributed training toolkits and multi-host scaling recipes. It further provide

Cirq هو إطار عمل للحوسبة الكمومية بلغة Python يُستخدم لتصميم ومحاكاة وتنفيذ الدوائر الكمومية على أجهزة الكموم ذات النطاق المتوسط الصاخب (NISQ). يعمل كمحاكي للدوائر الكمومية ونموذج للضوضاء، بالإضافة إلى أداة لتنفيذ الخوارزميات الكمومية. يوفر إطار العمل واجهة متخصصة لأجهزة NISQ، مما يسمح للمستخدمين بتعيين الدوائر الكمومية المنطقية إلى طوبولوجيا الأجهزة الفعلية مع التحقق من اتصال الأجهزة وقيود البوابات. ويتميز من خلال نمذجة الضوضاء المتكاملة، وتطبيق قنوات إزالة الاستقطاب والتخميد لمحاكاة فك الترابط والأخطاء الموجودة في المعالجات الكمومية الحقيقية. يغطي المشروع مجموعة واسعة من الإمكانيات، بما في ذلك تصميم الدوائر الكمومية، وتكامل الأجهزة، ومحاكاة الحالة. ويتضمن أدوات لتحليل البوابات، وتعيين طوبولوجيا الأجهزة، وتنفيذ الإجراءات الكمومية الأساسية مثل تحويلات فوريه والبحث في البيانات غير المهيكلة. بالإضافة إلى ذلك، يوفر أدوات تحليلية لحساب الحالة الأرضية الجزيئية وقياس دقة الأجهزة.