Awesome GitHub RepositoriesMulti-Dimensional Parallelism

AISystem is a comprehensive AI full-stack infrastructure project covering the entire pipeline from AI chip architecture to high-level training frameworks. It encompasses the development of AI compiler frameworks, inference engines, and distributed training orchestrators designed to coordinate workloads across a heterogeneous compute stack of CPUs, GPUs, and NPUs. The project focuses on the deep integration of software and hardware, employing software-hardware co-design to align tensor layouts with physical memory structures. It provides specialized capabilities for accelerating Transformer mo

This repository provides a collection of reference implementations, toolkits, and orchestration tools for training and deploying large-scale AI models on Cloud TPU hardware. It serves as a framework for managing the lifecycle of accelerator clusters, including hardware orchestration and the provisioning of high-performance compute infrastructure for machine learning workloads. The project specifically enables the pre-training of foundation models, large language models, and complex reasoning architectures through distributed training toolkits and multi-host scaling recipes. It further provide

Cirq este un framework Python pentru calcul cuantic utilizat pentru proiectarea, simularea și executarea circuitelor cuantice pe hardware NISQ (Noisy Intermediate-Scale Quantum). Acesta servește drept simulator de circuite cuantice și modelator de zgomot, precum și ca instrument pentru implementarea algoritmilor cuantici. Framework-ul oferă o interfață specializată pentru hardware-ul NISQ, permițând utilizatorilor să mapeze circuitele cuantice logice pe topologii de dispozitive fizice, validând în același timp conectivitatea hardware și constrângerile porților. Se distinge prin modelarea integrată a zgomotului, aplicând canale de depolarizare și amortizare pentru a imita decoerența și erorile găsite în procesoarele cuantice reale. Proiectul acoperă o gamă largă de capabilități, inclusiv proiectarea circuitelor cuantice, integrarea hardware și simularea stărilor. Include instrumente pentru descompunerea porților, maparea topologiei hardware și executarea procedurilor cuantice fundamentale, cum ar fi transformatele Fourier și căutarea de date nestructurate. În plus, oferă utilitare analitice pentru calculul stării fundamentale moleculare și benchmarking-ul fidelității hardware.