1 Repo
Optimization strategies designed to minimize the total number of trials and total compute time spent searching.
Distinct from Hyperparameter Optimizers: Distinct from general hyperparameter optimizers: focuses specifically on the trade-off between search budget and performance.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Computationally Efficient Search. Refine with filters or upvote what's useful.
FLAML ist ein automatisiertes Machine-Learning-Framework, ein Tool zur Hyperparameter-Optimierung und ein Orchestrator für Large-Language-Model-Agenten. Es bietet ein System zur Modellauswahl und -abstimmung über verschiedene Lerner und Datensätze hinweg und stellt gleichzeitig ein Toolkit zur Optimierung der Inferenzparameter und Fine-Tuning-Einstellungen von Large Language Models bereit. Das Projekt verfügt über ein Meta-Learning-Tuning-System, das historische Aufgabendaten analysiert, um datenabhängige Standardkonfigurationen zu generieren und die Modellkonvergenz zu beschleunigen. Es ermöglicht zudem das Design kollaborativer Multi-Agenten-Systeme durch konversationelle Workflows und ereignisgesteuerte Orchestrierung. Die Funktionen decken eine ressourceneffiziente Hyperparametersuche für Machine-Learning-Modelle und beliebige Python-Funktionen ab und unterstützen hierarchische Suchräume sowie lexikografische Zieloptimierung. Das Framework enthält zudem Dienstprogramme für automatisierte Modellauswahl, gestapelte Ensemble-Konstruktion, Zero-Shot-Konfiguration und die Durchsetzung von Fairness-Beschränkungen. Das System unterstützt die Skalierung verteilter Abstimmungen und die gleichzeitige Ausführung von Versuchen über Compute-Cluster hinweg, um die Gesamtsuchdauer zu reduzieren.
Implements search strategies that minimize total compute time and trial counts to find optimal configurations.