Awesome GitHub RepositoriesData Parallelism

AISystem is a comprehensive AI full-stack infrastructure project covering the entire pipeline from AI chip architecture to high-level training frameworks. It encompasses the development of AI compiler frameworks, inference engines, and distributed training orchestrators designed to coordinate workloads across a heterogeneous compute stack of CPUs, GPUs, and NPUs. The project focuses on the deep integration of software and hardware, employing software-hardware co-design to align tensor layouts with physical memory structures. It provides specialized capabilities for accelerating Transformer mo

AllenNLP is a PyTorch-based research library and deep learning language toolkit designed for developing and training neural network architectures for linguistic tasks. It provides a distributed training system that coordinates data and gradients across multiple GPUs and a framework for integrating pretrained transformer architectures. The system distinguishes itself with a dedicated algorithmic bias mitigation tool used to identify and reduce bias in linguistic model predictions. It also includes model influence analysis to interpret predictions by calculating the influence of specific traini

This project is a comprehensive educational curriculum and structured learning path covering the full lifecycle of large language models. It provides a guided progression through the theory, architecture, training, and deployment of these models. The curriculum includes specialized guides on transformer architecture, model training tutorials, and frameworks for designing autonomous agents. It also provides dedicated resources for studying model safety and ethics. The material covers a wide range of technical capabilities, including distributed training strategies, parameter-efficient fine-tu

trlx es una biblioteca de aprendizaje por refuerzo y framework de entrenamiento diseñado para alinear modelos de lenguaje grandes utilizando retroalimentación humana. Sirve como un entrenador distribuido y orquestador de cómputo para escalar modelos de alto número de parámetros a través de múltiples GPUs y nodos. El proyecto proporciona herramientas para el aprendizaje por refuerzo a partir de retroalimentación humana y alineación de modelos. Implementa optimización basada en modelos de recompensa y optimización de política proximal para refinar el comportamiento del modelo basado en recompensas orientadas a objetivos o conjuntos de datos etiquetados por humanos. El framework cubre estrategias de entrenamiento distribuido, incluyendo paralelismo de modelos, fragmentación de parámetros y sincronización de gradientes entre múltiples nodos. También incorpora restricciones como la divergencia KL para gestionar la deriva del modelo durante el proceso de aprendizaje por refuerzo.

Este proyecto es una implementación en PyTorch de redes residuales 3D diseñadas para el reconocimiento de acciones en video. Proporciona una arquitectura espaciotemporal que analiza tanto los fotogramas espaciales como el movimiento temporal para clasificar actividades humanas dentro de clips de video. El sistema incluye un framework de entrenamiento de modelos distribuido para acelerar el aprendizaje a través de múltiples nodos de cómputo. Admite el despliegue y ajuste fino de pesos de modelos preentrenados, permitiendo la adaptación de redes existentes a nuevos conjuntos de datos específicos. La base de código cubre el pipeline completo para el aprendizaje espaciotemporal, incluyendo herramientas de preprocesamiento de conjuntos de datos de video para convertir archivos sin procesar en secuencias de imágenes, capacidades de inferencia de acciones y métricas para calcular la precisión del reconocimiento.

Este proyecto es un framework para alinear modelos de lenguaje extensos (LLM) con las preferencias humanas. Proporciona una librería para optimizar el comportamiento del modelo mapeando los datos de preferencia directamente a un objetivo de política, evitando la necesidad de un modelo de recompensa independiente. El framework utiliza un objetivo matemático de forma cerrada para ajustar los pesos del modelo maximizando la probabilidad de las respuestas preferidas frente a las no preferidas. Incluye un kit de herramientas para el ajuste fino supervisado (SFT), lo que permite a los usuarios establecer una línea base estable con datos de demostración antes de aplicar técnicas de optimización basadas en preferencias. La librería admite entrenamiento distribuido, lo que permite escalar la alineación del modelo en múltiples aceleradores de hardware mediante estrategias de fragmentación de datos y paralelización. También proporciona utilidades para preparar datasets de preferencia personalizados, mapeando pares de prompts y respuestas para estructurar la retroalimentación humana para el pipeline de entrenamiento.

Este proyecto proporciona una colección integral de recursos educativos y guías técnicas para entrenar, ajustar y desplegar modelos de machine learning usando PyTorch y Hugging Face. Sirve como una referencia práctica para escalar flujos de trabajo de deep learning, ofreciendo instrucciones estructuradas para gestionar arquitecturas a gran escala a través de aceleradores de hardware distribuidos. El repositorio destaca por centrarse en el ciclo de vida de extremo a extremo de los modelos de lenguaje grandes (LLM), enfatizando específicamente el despliegue contenedorizado y la optimización del rendimiento. Detalla flujos de trabajo para el ajuste fino eficiente en parámetros y proporciona orientación técnica sobre la reducción de huellas de memoria mediante cuantización de pesos y técnicas de decodificación especulativa. Más allá del entrenamiento y despliegue central, el proyecto cubre una amplia gama de operaciones de machine learning (MLOps), incluyendo el empaquetado de entornos, la evaluación comparativa de rendimiento y la configuración de entornos de ejecución contenedorizados. Estos recursos ayudan a mantener un rendimiento consistente y eficiencia de recursos al alojar modelos generativos y multimodales en producción.