Awesome GitHub RepositoriesPre-training Transfer Learning

This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad

FastPhotoStyle es una herramienta de estilización de imágenes mediante IA y un framework de transferencia de estilo basado en deep learning. Funciona como un transformador de imágenes basado en características que aplica las propiedades visuales artísticas de una imagen de referencia a una fotografía objetivo utilizando redes neuronales profundas. El proyecto implementa la estilización de imágenes en tiempo real mediante una red feed-forward. Esto permite al sistema ejecutar transformaciones en una sola pasada en lugar de utilizar optimización iterativa. El framework cubre la edición de fotos con IA y efectos visuales de deep learning, centrándose específicamente en la transformación de texturas y colores de las imágenes para fusionar contenido fotográfico con estilos artísticos.

Chinese-BERT-wwm is a pre-trained transformer model and encoder designed for Chinese natural language processing. It converts Chinese text into dense vector representations to be used across various natural language processing applications. The model utilizes a whole word masking strategy during pre-training, masking entire words rather than individual characters. This approach is designed to improve the capture of semantic meaning and language structure within Chinese datasets. The project covers a range of downstream tasks including text classification, sequence labeling, and reading compr

ESPnet is a comprehensive speech processing toolkit and PyTorch-based trainer designed for building end-to-end speech recognition, synthesis, and translation models. It provides a structured framework for developing automatic speech recognition systems using transducer and encoder-decoder architectures, alongside engines for text-to-speech synthesis and speech translation pipelines. The project distinguishes itself through a recipe-based workflow execution system that ensures experimental reproducibility by running standardized sequences of scripts for data preparation and model training. It

TensorFlow-Tutorials is a collection of educational resources and guided tutorials for implementing machine learning models using the TensorFlow framework. It provides instructional material and videos for building deep learning architectures across diverse domains, including computer vision, natural language processing, and time-series prediction. The project offers practical guides for developing specific applications such as image captioning, style transfer, and machine translation. It emphasizes a structured approach to learning, ranging from simple linear models to complex reinforcement

The PyTorch Tutorials repository is a collection of educational resources that provides step-by-step guidance on building, training, and deploying neural networks using the PyTorch framework. It covers the complete machine learning workflow, from data loading and model definition through optimization loops and model persistence, with dedicated guides for distributed training, model fine-tuning, and deployment. The tutorials offer practical demonstrations of adapting pre-trained models to new tasks through transfer learning, scaling training across multiple GPUs or machines using PyTorch's dis

CodeGeeX is an open-source code model and multilingual large language model designed to generate, translate, and complete source code across multiple programming languages. It functions as an AI coding assistant and a cross-lingual code translator that produces executable code and technical documentation. The project enables natural language programming by turning plain English descriptions into functional programs. It also provides the ability to convert source code from one programming language to another while preserving the original logic and functionality. The system covers a range of c

Este es un framework de machine learning para tratar diversas tareas de procesamiento de lenguaje natural como un problema unificado de texto a texto. Proporciona un toolkit para pre-entrenar y ajustar modelos transformer a gran escala, utilizando un sistema donde tanto las entradas como las salidas se formatean como secuencias de texto crudo. El framework se distingue por su sistema de entrenamiento distribuido, que utiliza estrategias basadas en malla para escalar pesos de modelos y lotes de entrenamiento a través de múltiples núcleos TPU. Soporta aprendizaje multitarea combinando diversos datasets en un único flujo de entrenamiento utilizando tasas de mezcla configurables, permitiendo que un único modelo maneje varias tareas de lenguaje. El sistema cubre una amplia gama de capacidades, incluyendo arquitecturas codificador-decodificador, decodificación de búsqueda de haz (beam-search) para generación de texto y flujos de trabajo de transfer learning. Incluye utilidades para la preparación de datasets de NLP, evaluación del rendimiento del modelo y exportación de checkpoints entrenados para servir en producción. La biblioteca soporta la carga de checkpoints de modelos pre-entrenados de varios tamaños para acelerar el desarrollo.

Skorch es una biblioteca que envuelve redes neuronales de PyTorch en una interfaz compatible con scikit-learn, permitiendo que los modelos de aprendizaje profundo se utilicen dentro de pipelines de machine learning estándar y herramientas de optimización de hiperparámetros. Funciona como un adaptador de datos, gestor de entrenamiento y herramienta de optimización que cierra la brecha entre los módulos de aprendizaje profundo y los flujos de trabajo de machine learning convencionales. El proyecto se distingue por proporcionar un kit de herramientas para automatizar el ciclo de vida de entrenamiento de PyTorch, incluyendo checkpointing integrado, parada temprana y programación de tasas de aprendizaje. Además, permite el aprendizaje por transferencia (transfer learning) mediante utilidades para congelar capas específicas del modelo y ajustar pesos preentrenados para tareas especializadas. La superficie de capacidades se extiende a la transformación de datos, incluyendo la conversión de datos tabulares y arrays numéricos a formatos de tensor y el registro de tokenizadores de texto. También proporciona herramientas para la selección de aceleración por hardware, compilación de módulos just-in-time y modelado de datos probabilísticos para la cuantificación de la incertidumbre. El sistema incluye utilidades para mapear hiperparámetros a argumentos de línea de comandos para garantizar experimentos reproducibles.

Gluon-CV es una biblioteca de visión artificial para MXNet que proporciona una colección completa de arquitecturas de visión preimplementadas y tuberías de entrenamiento. Sirve como un kit de herramientas de investigación de aprendizaje profundo y un zoológico de modelos (model zoo) que contiene pesos preentrenados de última generación para análisis de imágenes y video. El proyecto incluye una biblioteca especializada en estimación de pose humana y un kit de herramientas de compresión de modelos. Estas herramientas permiten la poda (pruning) y cuantización de modelos de aprendizaje profundo para aumentar la velocidad de inferencia y facilitar el despliegue en hardware de borde (edge hardware) con recursos limitados. La biblioteca cubre una amplia gama de capacidades de visión, incluyendo clasificación de imágenes, detección de objetos y segmentación semántica e instanciada. También proporciona herramientas para análisis de video, como reconocimiento de acciones, seguimiento de objetos y estimación de profundidad monocular. El entrenamiento es compatible a través de tuberías automatizadas y cargas de trabajo distribuidas multi-GPU para acelerar la convergencia del modelo.

This is a comprehensive deep learning course delivered entirely through Jupyter Notebooks, designed to teach neural network construction using TensorFlow 2.x. The curriculum follows a sequential-model-first pedagogy, introducing the Sequential API before moving to functional and subclassing approaches, and covers the full spectrum of model building from regression and classification through convolutional neural networks, natural language processing, and time series forecasting. The course is structured around a checkpoint-based training workflow that saves the best model weights during traini

DeepLabCut es un kit de herramientas de deep learning para la estimación de poses de animales en 2D y 3D sin marcadores. Funciona como un sistema de seguimiento de movimiento que identifica puntos clave anatómicos en animales en secuencias de video sin la necesidad de marcadores físicos. El framework utiliza aprendizaje por transferencia (transfer learning) y una librería de pesos preentrenados para acelerar el entrenamiento de redes para diferentes especies. Admite el seguimiento de identidad de múltiples individuos para mantener identidades únicas a través de secuencias de video y ofrece detección de poses en tiempo real para transmisiones de video en vivo. El sistema cubre una amplia gama de capacidades de visión artificial, incluyendo análisis de movimiento espacial en 3D, seguimiento de marcadores anatómicos y refinamiento de predicción auto-supervisado. Incluye utilidades para el etiquetado de datos de entrenamiento y un registro de modelos para integrar arquitecturas de redes neuronales personalizadas. El software proporciona contenedorización Docker para garantizar una instalación y ejecución consistentes en diferentes sistemas operativos.

This repository is a curated study resource of interview questions and answers for data science roles. It covers the core domains of machine learning, statistics, Python programming, SQL databases, deep learning, and algorithmic problem solving. The content is organized as static Markdown files with a structured question-and-answer format, making it easy to read and navigate without any server-side processing. The material distinguishes itself by pairing each question with a detailed explanation and often a code example, covering both conceptual knowledge and practical application. Topics ran

VITS-fast-fine-tuning es un pipeline para adaptar modelos de síntesis de voz a voces objetivo específicas utilizando pequeños conjuntos de datos de audio. Funciona como una herramienta de adaptación rápida de hablante y un sintetizador de voz multilingüe capaz de generar audio hablado en diferentes idiomas. El sistema proporciona un framework para la conversión de voz muchos-a-muchos, transformando la identidad de un hablante en otro mientras se preserva el contenido lingüístico original. Permite la adaptación de una voz para texto-a-voz mediante el fine-tuning de un modelo pre-entrenado con clips de audio o fuentes de video. El proyecto cubre la síntesis de voz end-to-end y el procesamiento de audio, utilizando generación de formas de onda adversarias y búsqueda de alineación monótona para producir audio de alta fidelidad. Incorpora un predictor de duración estocástico para gestionar variaciones en el ritmo del habla y admite la transferencia de modelos pre-entrenados.

Este proyecto es un sistema de procesamiento de lenguaje natural diseñado para el reconocimiento de entidades nombradas y clasificación de texto. Utiliza un enfoque de aprendizaje automático para identificar nombres específicos e información clave a partir de texto sin procesar para organizar contenido no estructurado en un formato estructurado. El sistema implementa una arquitectura multicapa que combina un transformer pre-entrenado para embeddings, memoria a largo plazo bidireccional (BiLSTM) para modelado de secuencias y un campo aleatorio condicional (CRF) para transiciones de etiquetas. Soporta aprendizaje por transferencia mediante el fine-tuning de estos modelos en datasets específicos de la tarea. El proyecto incluye capacidades para entrenar modelos en datasets personalizados utilizando configuraciones y archivos de vocabulario especificados. También proporciona un mecanismo para desplegar el modelo entrenado como un servicio de red, permitiendo la clasificación de texto y el reconocimiento de entidades a través de un servidor HTTP.

Este proyecto es un framework de re-identificación de personas en PyTorch diseñado para entrenar y evaluar modelos que identifican individuos a través de diferentes vistas de cámara. Proporciona un pipeline completo de entrenamiento de modelos, un extractor de características de deep learning para convertir imágenes en vectores numéricos y una suite de herramientas de benchmarking de visión artificial para medir la precisión de recuperación de identidad. El framework incluye un toolkit de aprendizaje por transferencia (transfer learning) especializado que soporta congelación de capas, optimización de tasa de aprendizaje por etapas y tasas de aprendizaje diferenciales para el ajuste fino de modelos preentrenados. Se distingue por un motor extensible que permite el desarrollo de lógica de entrenamiento personalizada y la implementación de objetivos de optimización específicos como la minería de triplet loss de muestras difíciles y el suavizado de etiquetas (label smoothing). El sistema cubre la gestión integral de datasets, incluyendo soporte para benchmarks estándar, muestreo de lotes equilibrado y aumento de imágenes. Proporciona utilidades de evaluación para calcular rangos de recuperación y distancias de características, así como herramientas de visualización para generar mapas de calor de activación y galerías de recuperación clasificadas. El proyecto está implementado en Python y aprovecha PyTorch para sus operaciones de deep learning.

Este proyecto es un recurso educativo integral y un curso para construir redes neuronales usando PyTorch. Cubre los bloques de construcción fundamentales del deep learning, incluyendo la manipulación de tensores, la diferenciación automática y la construcción de componentes modulares de redes neuronales. El repositorio sirve como guía técnica para varios dominios especializados. Proporciona detalles de implementación para tareas de visión artificial como clasificación de imágenes, detección de objetos y segmentación semántica, así como flujos de trabajo de procesamiento de lenguaje natural que involucran transformers, redes recurrentes y modelos generativos. Además, incluye una referencia para IA generativa, centrándose específicamente en la síntesis de imágenes mediante modelos de difusión y redes adversarias. El material se extiende a pipelines de optimización y despliegue de modelos. Cubre técnicas para reducir el tamaño del modelo y aumentar la velocidad de inferencia mediante cuantización y la exportación de modelos a formatos como ONNX y TensorRT. Otras áreas de capacidad incluyen ingeniería de datos para carga paralela, evaluación de modelos mediante métricas personalizadas y el despliegue de modelos de lenguaje grandes (LLM) de código abierto. El proyecto se entrega principalmente como una serie de Jupyter Notebooks.

TorchGeo is a PyTorch library designed for deep learning on geospatial data, providing a framework for building and training neural networks for tasks such as semantic segmentation, object detection, and change detection. It serves as a comprehensive pipeline for remote sensing, featuring specialized dataset loaders and multispectral image preprocessing tools. The library is distinguished by a dedicated remote sensing model zoo and extensive support for transfer learning, allowing users to integrate pre-trained weights optimized for specific satellite sensors. It also includes support for sel

Este proyecto es un recurso educativo integral y un manual de tutoriales para construir, entrenar y desplegar modelos de machine learning usando TensorFlow 2. Sirve como una guía de aprendizaje estructurada que cubre conceptos fundamentales de deep learning, incluyendo arquitecturas de redes neuronales, diferenciación automática y operaciones con tensores. El manual proporciona orientación técnica sobre cómo optimizar la eficiencia de ejecución mediante la gestión de memoria de GPU, entrenamiento distribuido y cuantización de modelos. También incluye guías detalladas para construir pipelines de datos de alto rendimiento y exportar modelos para servidores de producción, dispositivos móviles y navegadores web. El material abarca una amplia gama de capacidades, incluyendo el desarrollo de modelos con redes convolucionales y recurrentes, la implementación de funciones de pérdida y capas personalizadas, y el uso de modelos preentrenados para transfer learning. También aborda estrategias de despliegue para dispositivos edge y el uso de entornos de ejecución en la nube para aceleración por hardware. El recurso está implementado como una colección de Jupyter Notebooks.

Lightly is a self-supervised learning framework and computer vision data curation tool designed to manage large image datasets and train models on unlabeled data. It functions as a PyTorch vision library and dataset management SDK, providing tools to convert raw images into high-dimensional vectors for similarity search, visualization, and feature extraction. The project implements a variety of self-supervised architectures, including MoCo, SimCLR, VICReg, Barlow Twins, and masked image modeling. It distinguishes itself by combining these learning frameworks with active learning capabilities,