1 Repo
The process of building specialized linear layers used specifically for probing and evaluating pretrained features.
Distinct from Linear Transformations: Specifically targets the construction of an evaluation head rather than general linear transformations in a model.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Evaluation Head Constructions. Refine with filters or upvote what's useful.
Dieses Projekt ist ein selbstüberwachtes kontrastives Lern-Framework, das darauf ausgelegt ist, Deep-Learning-Modelle darauf zu trainieren, visuelle Repräsentationen aus Bildern zu lernen, ohne menschlich bereitgestellte Labels zu verwenden. Es bietet ein System zur Entwicklung vortrainierter visueller Repräsentationsmodelle, die für nachgelagerte Computer-Vision-Aufgaben angepasst werden können. Das Framework enthält Tools für semi-überwachte Bildklassifizierung, die große ungelabelte Datensätze mit kleinen gelabelten Sets kombiniert, um die Genauigkeit zu verbessern. Es bietet zudem ein Linear-Probe-Evaluierungstool, um die Qualität gelernter Bildmerkmale zu bewerten, indem ein einfacher linearer Klassifikator auf Basis eingefrorener Repräsentationen trainiert wird. Die Codebasis deckt verteiltes Deep-Learning-Training und Hardwarebeschleunigung ab, um große Batch-Größen zu handhaben, neben Optimierungsprimitiven wie Cosine-Decay-Learning-Rate-Scheduling und Weight-Decay-Regularisierung. Sie bietet zudem Dienstprogramme für das Modellmanagement, einschließlich der Konvertierung vortrainierter Checkpoints zwischen verschiedenen Deep-Learning-Framework-Formaten und Tools für das Model-Deployment. Die Implementierung wird als Sammlung von Jupyter Notebooks bereitgestellt.
Constructs linear layers with optional bias and normalization to evaluate the quality of learned visual representations.