1 repository
Optimization strategies designed to minimize the total number of trials and total compute time spent searching.
Distinct from Hyperparameter Optimizers: Distinct from general hyperparameter optimizers: focuses specifically on the trade-off between search budget and performance.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Computationally Efficient Search. Refine with filters or upvote what's useful.
FLAML este un framework de învățare automată automatizată, un instrument de optimizare a hiperparametrilor și un orchestrator de agenți pentru modele de limbaj mari. Oferă un sistem pentru selecția și reglarea modelelor pe diverse learner-e și seturi de date, oferind în același timp un toolkit pentru optimizarea parametrilor de inferență și reglarea fină a setărilor modelelor de limbaj mari. Proiectul dispune de un sistem de reglare meta-learning care analizează datele istorice ale sarcinilor pentru a genera configurații implicite dependente de date, accelerând convergența modelului. De asemenea, permite proiectarea sistemelor multi-agent colaborative prin fluxuri de lucru conversaționale și orchestrare bazată pe evenimente. Capabilitățile acoperă căutarea eficientă a hiperparametrilor pentru modele de învățare automată și funcții Python arbitrare, suportând spații de căutare ierarhice și optimizarea obiectivelor lexicografice. Framework-ul include, de asemenea, utilitare pentru selecția automată a modelelor, construcția de ansambluri stivuite, configurarea zero-shot și aplicarea constrângerilor de echitate. Sistemul suportă scalarea reglării distribuite și execuția concurentă a trial-urilor pe clustere de calcul pentru a reduce durata totală a căutării.
Implements search strategies that minimize total compute time and trial counts to find optimal configurations.