Awesome GitHub RepositoriesMulti-Dimensional Parallelism

AISystem is a comprehensive AI full-stack infrastructure project covering the entire pipeline from AI chip architecture to high-level training frameworks. It encompasses the development of AI compiler frameworks, inference engines, and distributed training orchestrators designed to coordinate workloads across a heterogeneous compute stack of CPUs, GPUs, and NPUs. The project focuses on the deep integration of software and hardware, employing software-hardware co-design to align tensor layouts with physical memory structures. It provides specialized capabilities for accelerating Transformer mo

This repository provides a collection of reference implementations, toolkits, and orchestration tools for training and deploying large-scale AI models on Cloud TPU hardware. It serves as a framework for managing the lifecycle of accelerator clusters, including hardware orchestration and the provisioning of high-performance compute infrastructure for machine learning workloads. The project specifically enables the pre-training of foundation models, large language models, and complex reasoning architectures through distributed training toolkits and multi-host scaling recipes. It further provide

Cirq ist ein Python-Framework für Quantencomputing, das zum Entwerfen, Simulieren und Ausführen von Quantenschaltkreisen auf Noisy Intermediate-Scale Quantum (NISQ)-Hardware verwendet wird. Es dient als Simulator für Quantenschaltkreise und Rauschmodellierer sowie als Werkzeug für die Implementierung von Quantenalgorithmen. Das Framework bietet eine spezialisierte Schnittstelle für NISQ-Hardware, die es Benutzern ermöglicht, logische Quantenschaltkreise auf physische Gerätetopologien abzubilden und gleichzeitig Hardware-Konnektivität und Gate-Beschränkungen zu validieren. Es zeichnet sich durch integrierte Rauschmodellierung aus, bei der Depolarisierungs- und Dämpfungskanäle angewendet werden, um die Dekohärenz und Fehler in realen Quantenprozessoren nachzuahmen. Das Projekt deckt ein breites Spektrum an Funktionen ab, einschließlich Quantenschaltkreis-Design, Hardware-Integration und Zustandssimulation. Es enthält Tools für Gate-Dekomposition, Hardware-Topologie-Mapping und die Ausführung grundlegender Quantenprozeduren wie Fourier-Transformationen und unstrukturierte Datensuche. Zusätzlich bietet es analytische Dienstprogramme für die Berechnung molekularer Grundzustände und das Benchmarking der Hardware-Fidelity.