1 repository
The process of building specialized linear layers used specifically for probing and evaluating pretrained features.
Distinct from Linear Transformations: Specifically targets the construction of an evaluation head rather than general linear transformations in a model.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Evaluation Head Constructions. Refine with filters or upvote what's useful.
Acest proiect este un framework de învățare contrastivă auto-supervizată conceput pentru a antrena modele de deep learning să învețe reprezentări vizuale din imagini fără a utiliza etichete furnizate de oameni. Oferă un sistem pentru dezvoltarea modelelor de reprezentare vizuală pre-antrenate care pot fi adaptate pentru sarcini de computer vision downstream. Framework-ul include instrumente pentru clasificarea imaginilor semi-supervizată, care combină seturi mari de date neetichetate cu seturi mici etichetate pentru a îmbunătăți acuratețea. Dispune, de asemenea, de un instrument de evaluare linear probe pentru a evalua calitatea funcționalităților vizuale învățate prin antrenarea unui clasificator linear simplu peste reprezentările înghețate. Codul sursă acoperă antrenarea distribuită de deep learning și accelerarea hardware pentru a gestiona dimensiuni mari de batch-uri, alături de primitive de optimizare precum programarea ratei de învățare cosine-decay și regularizarea weight-decay. Oferă, de asemenea, utilitare pentru gestionarea modelelor, inclusiv conversia checkpoint-urilor pre-antrenate între diferite formate de framework-uri de deep learning și instrumente pentru implementarea modelelor. Implementarea este furnizată ca o colecție de Jupyter Notebooks.
Constructs linear layers with optional bias and normalization to evaluate the quality of learned visual representations.