Awesome GitHub RepositoriesHyperparameter Optimizers

Skorch es un gestor de flujo de trabajo de aprendizaje profundo e interfaz de modelos basada en tensores. Proporciona una API consistente para entrenar y predecir con redes neuronales dentro de flujos de trabajo de machine learning estándar, actuando como un optimizador de hiperparámetros para encontrar configuraciones de red óptimas. La biblioteca se especializa en envolver redes neuronales de PyTorch en una interfaz compatible con scikit-learn. Esto permite que los modelos basados en tensores se utilicen dentro de pipelines de machine learning tradicionales y herramientas de búsqueda de rejilla (grid search), incluyendo el mapeo de rejillas de parámetros a configuraciones de modelos. El framework cubre la gestión del ciclo de vida del entrenamiento mediante parada temprana (early stopping), puntos de control (checkpointing) y programadores de tasa de aprendizaje. También incluye capacidades para el control de parámetros del modelo mediante congelación de capas, traducción automática entre tensores y arrays de NumPy, y monitoreo del progreso del entrenamiento en tiempo real.

Skorch es una biblioteca que envuelve redes neuronales de PyTorch en una interfaz compatible con scikit-learn, permitiendo que los modelos de aprendizaje profundo se utilicen dentro de pipelines de machine learning estándar y herramientas de optimización de hiperparámetros. Funciona como un adaptador de datos, gestor de entrenamiento y herramienta de optimización que cierra la brecha entre los módulos de aprendizaje profundo y los flujos de trabajo de machine learning convencionales. El proyecto se distingue por proporcionar un kit de herramientas para automatizar el ciclo de vida de entrenamiento de PyTorch, incluyendo checkpointing integrado, parada temprana y programación de tasas de aprendizaje. Además, permite el aprendizaje por transferencia (transfer learning) mediante utilidades para congelar capas específicas del modelo y ajustar pesos preentrenados para tareas especializadas. La superficie de capacidades se extiende a la transformación de datos, incluyendo la conversión de datos tabulares y arrays numéricos a formatos de tensor y el registro de tokenizadores de texto. También proporciona herramientas para la selección de aceleración por hardware, compilación de módulos just-in-time y modelado de datos probabilísticos para la cuantificación de la incertidumbre. El sistema incluye utilidades para mapear hiperparámetros a argumentos de línea de comandos para garantizar experimentos reproducibles.

PufferLib is a reinforcement learning framework built around high-speed environment simulation and automatic hyperparameter optimization. It is designed to accelerate the entire RL training pipeline by running simulations at near-native speed and enabling the training of tiny models to super-human performance within seconds. The framework achieves its speed through a single-process training loop that eliminates inter-process communication overhead, vectorized batched simulation for parallel environment execution, and compiled C extensions that offload performance-critical computations. It als

Cube Studio es una plataforma MLOps nativa de la nube y un orquestador de IA basado en Kubernetes, diseñado para todo el ciclo de vida del machine learning. Proporciona un framework de entrenamiento distribuido para el ajuste fino de modelos a gran escala, un gestor de recursos GPU para virtualización de hardware y un orquestador de pipelines de ML que utiliza grafos acíclicos dirigidos visuales para gestionar flujos de trabajo de extremo a extremo. La plataforma se distingue por su servidor de inferencia LLM especializado, que soporta generación aumentada por recuperación (RAG) y la construcción de bases de conocimiento privadas. Cuenta con un sistema dedicado para el ajuste fino supervisado y aprendizaje por refuerzo de modelos de lenguaje grandes, complementado con herramientas visuales de búsqueda de hiperparámetros. El sistema cubre una amplia gama de capacidades operativas, incluyendo etiquetado de datos multimodales, pipelines de datos distribuidos y programación de cargas de trabajo en múltiples clústeres. También ofrece entornos de desarrollo interactivos basados en navegador, gestión de imágenes de contenedor y un registro de modelos para versionar y desplegar APIs de inferencia escalables con división de tráfico. La infraestructura incluye monitorización de salud del clúster integrada y control de acceso basado en roles con integración de inicio de sesión único (SSO).

PyTorch Forecasting is a deep learning framework designed for building and training neural network architectures specifically for time series forecasting. It serves as a comprehensive toolkit for implementing autoregressive models, multi-horizon forecasting, and probabilistic prediction intervals using PyTorch tensors. The library distinguishes itself through a probabilistic forecasting toolkit that generates prediction intervals and quantile forecasts using both parametric and non-parametric distributions. It further provides a neural network model optimizer for automated hyperparameter tuni

FLAML is an automated machine learning framework, hyperparameter optimization tool, and large language model agent orchestrator. It provides a system for model selection and tuning across various learners and datasets, while also offering a toolkit for optimizing the inference parameters and fine-tuning settings of large language models. The project features a meta-learning tuning system that analyzes historical task data to generate data-dependent default configurations, accelerating model convergence. It further enables the design of collaborative multi-agent systems through conversational

fast-reid is a PyTorch-based computer vision framework designed for building, training, and deploying deep learning models for identity-based vision tasks. It provides a specialized toolbox for person re-identification and vehicle re-identification, enabling the matching of individuals and vehicles across non-overlapping camera views. The project includes tools for person attribute recognition to identify specific physical characteristics and traits. It features a modular model zoo that allows for the swapping and benchmarking of different re-identification architectures. The framework cover

PocketFlow is an integrated toolkit for deep learning model compression, distributed training, and mobile format optimization. It provides a system for reducing the size and complexity of neural networks to improve inference efficiency, featuring a dedicated engine for knowledge distillation and a mobile model optimizer. The framework differentiates itself through an automated hyperparameter tuning system that uses reinforcement learning and statistical models to determine optimal compression ratios and layer-wise bit allocation. It also includes a distributed training system that utilizes mu

This project is a collection of pretrained reinforcement learning agents and training scripts built on Stable Baselines3 and Gymnasium. It provides a framework for training agents to solve specific tasks, managing experiment reproducibility, and deploying pretrained models. The system includes a specialized benchmarking suite and optimization tools for tuning agent settings. It utilizes automated search spaces and distributed trials to maximize performance, while employing bootstrap sampling to generate statistically robust performance metrics and confidence intervals. Broad capabilities cov