Awesome GitHub RepositoriesHyperparameter Optimizers

Skorch este un manager de flux de lucru pentru deep learning și o interfață de model bazată pe tensori. Oferă un API consistent pentru antrenarea și predicția cu rețele neuronale în cadrul fluxurilor de lucru standard de machine learning, acționând ca un optimizator de hiperparametri pentru găsirea configurațiilor optime de rețea. Biblioteca este specializată în învelirea rețelelor neuronale PyTorch într-o interfață compatibilă cu scikit-learn. Acest lucru permite utilizarea modelelor bazate pe tensori în cadrul pipeline-urilor tradiționale de machine learning și al instrumentelor de grid search, inclusiv maparea grid-urilor de parametri la configurațiile modelului. Framework-ul acoperă gestionarea ciclului de viață al antrenamentului prin oprire timpurie, checkpointing și programatoare ale ratei de învățare. Include, de asemenea, capabilități pentru controlul parametrilor modelului prin înghețarea straturilor, traducerea automată între tensori și array-uri NumPy și monitorizarea progresului antrenamentului în timp real.

Skorch este o bibliotecă ce învelește rețelele neuronale PyTorch într-o interfață compatibilă cu scikit-learn, permițând utilizarea modelelor de deep learning în cadrul pipeline-urilor standard de machine learning și al instrumentelor de optimizare a hiperparametrilor. Funcționează ca un adaptor de date, manager de antrenament și instrument de optimizare care face legătura între modulele de deep learning și fluxurile de lucru convenționale de machine learning. Proiectul se distinge prin furnizarea unui set de instrumente pentru automatizarea ciclului de viață al antrenamentului PyTorch, inclusiv checkpointing integrat, oprire timpurie (early stopping) și programarea ratei de învățare. Permite în continuare transfer learning-ul prin utilitare pentru înghețarea unor straturi specifice ale modelului și fine-tuning-ul ponderilor pre-antrenate pentru sarcini specializate. Suprafața de capabilități se extinde la transformarea datelor, inclusiv conversia datelor tabelare și a array-urilor numerice în formate tensoriale și înregistrarea tokenizatoarelor de text. Oferă, de asemenea, instrumente pentru selectarea accelerării hardware, compilarea modulelor just-in-time și modelarea probabilistică a datelor pentru cuantificarea incertitudinii. Sistemul include utilitare pentru maparea hiperparametrilor la argumentele liniei de comandă pentru a asigura experimente reproductibile.

PufferLib is a reinforcement learning framework built around high-speed environment simulation and automatic hyperparameter optimization. It is designed to accelerate the entire RL training pipeline by running simulations at near-native speed and enabling the training of tiny models to super-human performance within seconds. The framework achieves its speed through a single-process training loop that eliminates inter-process communication overhead, vectorized batched simulation for parallel environment execution, and compiled C extensions that offload performance-critical computations. It als

Cube Studio este o platformă MLOps cloud-native și un orchestrator AI bazat pe Kubernetes, conceput pentru întregul ciclu de viață al învățării automate. Oferă un framework de antrenare distribuită pentru fine-tuning-ul modelelor la scară largă, un manager de resurse GPU pentru virtualizarea hardware și un orchestrator de pipeline-uri ML care utilizează grafuri aciclice direcționate vizuale pentru a gestiona fluxurile de lucru end-to-end. Platforma se distinge prin serverul său specializat de inferență LLM, care suportă generarea augmentată prin recuperare (RAG) și construirea de baze de cunoștințe private. Dispune de un sistem dedicat pentru fine-tuning supervizat și învățare prin consolidare a modelelor de limbaj mari, completat de instrumente vizuale de căutare a hiperparametrilor. Sistemul acoperă o gamă largă de capabilități operaționale, inclusiv etichetarea datelor multimodale, pipeline-uri de date distribuite și programarea sarcinilor de lucru multi-cluster. De asemenea, oferă medii de dezvoltare interactive bazate pe browser, gestionarea imaginilor de containere și un registru de modele pentru versionarea și implementarea API-urilor de inferență scalabile cu împărțirea traficului. Infrastructura include monitorizarea integrată a stării clusterului și controlul accesului bazat pe roluri cu integrare single sign-on.

PyTorch Forecasting is a deep learning framework designed for building and training neural network architectures specifically for time series forecasting. It serves as a comprehensive toolkit for implementing autoregressive models, multi-horizon forecasting, and probabilistic prediction intervals using PyTorch tensors. The library distinguishes itself through a probabilistic forecasting toolkit that generates prediction intervals and quantile forecasts using both parametric and non-parametric distributions. It further provides a neural network model optimizer for automated hyperparameter tuni

FLAML este un framework de învățare automată automatizată, un instrument de optimizare a hiperparametrilor și un orchestrator de agenți pentru modele de limbaj mari. Oferă un sistem pentru selecția și reglarea modelelor pe diverse learner-e și seturi de date, oferind în același timp un toolkit pentru optimizarea parametrilor de inferență și reglarea fină a setărilor modelelor de limbaj mari. Proiectul dispune de un sistem de reglare meta-learning care analizează datele istorice ale sarcinilor pentru a genera configurații implicite dependente de date, accelerând convergența modelului. De asemenea, permite proiectarea sistemelor multi-agent colaborative prin fluxuri de lucru conversaționale și orchestrare bazată pe evenimente. Capabilitățile acoperă căutarea eficientă a hiperparametrilor pentru modele de învățare automată și funcții Python arbitrare, suportând spații de căutare ierarhice și optimizarea obiectivelor lexicografice. Framework-ul include, de asemenea, utilitare pentru selecția automată a modelelor, construcția de ansambluri stivuite, configurarea zero-shot și aplicarea constrângerilor de echitate. Sistemul suportă scalarea reglării distribuite și execuția concurentă a trial-urilor pe clustere de calcul pentru a reduce durata totală a căutării.

fast-reid is a PyTorch-based computer vision framework designed for building, training, and deploying deep learning models for identity-based vision tasks. It provides a specialized toolbox for person re-identification and vehicle re-identification, enabling the matching of individuals and vehicles across non-overlapping camera views. The project includes tools for person attribute recognition to identify specific physical characteristics and traits. It features a modular model zoo that allows for the swapping and benchmarking of different re-identification architectures. The framework cover

PocketFlow is an integrated toolkit for deep learning model compression, distributed training, and mobile format optimization. It provides a system for reducing the size and complexity of neural networks to improve inference efficiency, featuring a dedicated engine for knowledge distillation and a mobile model optimizer. The framework differentiates itself through an automated hyperparameter tuning system that uses reinforcement learning and statistical models to determine optimal compression ratios and layer-wise bit allocation. It also includes a distributed training system that utilizes mu

This project is a collection of pretrained reinforcement learning agents and training scripts built on Stable Baselines3 and Gymnasium. It provides a framework for training agents to solve specific tasks, managing experiment reproducibility, and deploying pretrained models. The system includes a specialized benchmarking suite and optimization tools for tuning agent settings. It utilizes automated search spaces and distributed trials to maximize performance, while employing bootstrap sampling to generate statistically robust performance metrics and confidence intervals. Broad capabilities cov