Awesome GitHub RepositoriesCompute Provisioning

TransformerLab este o platformă de orchestrare MLOps și un mediu de cercetare conceput pentru antrenarea, fine-tuning-ul și evaluarea modelelor de limbaj mari. Servește ca un plan de control centralizat pentru gestionarea joburilor de machine learning și coordonarea compute-ului GPU distribuit pe furnizori de cloud hibrid și on-premise. Platforma se distinge prin optimizarea modelului condusă de agenți, utilizând asistenți AI pentru a analiza metricile și a propune și pune automat în coadă experimente de hiperparametri. Oferă un mediu de dezvoltare la distanță care permite utilizatorilor să lanseze notebook-uri interactive, editoare de cod și sesiuni secure shell direct pe nodurile de calcul la distanță. Sistemul acoperă o gamă largă de capabilități de flux de lucru pentru machine learning, inclusiv coordonarea sarcinilor distribuite, sweep-uri automatizate de hiperparametri și urmărirea cuprinzătoare a experimentelor. Dispune de registre integrate pentru versionarea seturilor de date și a artefactelor de model, precum și instrumente pentru evaluarea performanței modelului și implementarea serverului de inferență. Este furnizată o interfață în linie de comandă pentru controlul platformei, monitorizarea joburilor și gestionarea instalării și actualizărilor instanței locale de server.

CML este un instrument de automatizare a pipeline-urilor pentru antrenarea și evaluarea modelelor de machine learning, funcționând ca un sistem CI/CD pentru machine learning. Servește drept orchestrator de calcul în cloud și manager de flux de lucru bazat pe Git, care automatizează ciclurile de antrenare a modelelor prin gestionarea branch-urilor, commit-uri automate și raportare integrată. Proiectul se distinge prin provizionarea de instanțe cloud efemere sau noduri Kubernetes pentru a oferi hardware specializat pentru sarcini intensive de calcul. De asemenea, gestionează runneri de calcul la distanță, permițând conectarea clusterelor GPU self-hosted sau a mașinilor on-premise pentru a executa fluxuri de lucru de machine learning containerizate. Sistemul acoperă o gamă largă de capabilități, inclusiv monitorizarea experimentelor ML, unde metricile de performanță și vizualizările sunt postate direct în pull request-urile de control al versiunilor. Gestionează automatizarea pipeline-ului ML de la importul inițial al datelor și versionare până la generarea de rapoarte de flux de lucru formatate și link-uri de vizualizare externă. Instrumentul oferă utilitate suplimentară pentru gestionarea infrastructurii prin depanare la distanță bazată pe SSH și capacitatea de a relua joburile întrerupte.