1 dépôt
Optimization strategies designed to minimize the total number of trials and total compute time spent searching.
Distinct from Hyperparameter Optimizers: Distinct from general hyperparameter optimizers: focuses specifically on the trade-off between search budget and performance.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Computationally Efficient Search. Refine with filters or upvote what's useful.
FLAML est un framework d'apprentissage automatique automatisé, un outil d'optimisation d'hyperparamètres et un orchestrateur d'agents de grands modèles de langage. Il fournit un système pour la sélection et le réglage des modèles à travers divers apprenants et jeux de données, tout en offrant une boîte à outils pour optimiser les paramètres d'inférence et les paramètres de réglage fin des grands modèles de langage. Le projet dispose d'un système de réglage par méta-apprentissage qui analyse les données de tâches historiques pour générer des configurations par défaut dépendantes des données, accélérant la convergence du modèle. Il permet en outre la conception de systèmes multi-agents collaboratifs via des flux de travail conversationnels et une orchestration pilotée par événements. Les capacités couvrent la recherche d'hyperparamètres efficace en ressources pour les modèles d'apprentissage automatique et les fonctions Python arbitraires, prenant en charge les espaces de recherche hiérarchiques et l'optimisation objective lexicographique. Le framework inclut également des utilitaires pour la sélection automatique de modèles, la construction d'ensembles empilés, la configuration zero-shot et l'application de contraintes d'équité. Le système prend en charge la mise à l'échelle du réglage distribué et l'exécution simultanée d'essais à travers des clusters de calcul pour réduire la durée totale de recherche.
Implements search strategies that minimize total compute time and trial counts to find optimal configurations.