1 Repo
Awesome GitHub RepositoriesActivation Data Hosting
Specialized backend servers for hosting and serving model activation tensors and pre-computed datasets.
Distinct from Dataset Hosting: Focuses specifically on the hosting of model internal states rather than general purpose research datasets.
Explore 1 awesome GitHub repository matching devops & infrastructure · Activation Data Hosting. Refine with filters or upvote what's useful.
Awesome Activation Data Hosting GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- openai/transformer-debugger
openai/transformer-debugger
4,118Auf GitHub ansehenDieses Projekt ist ein Interpretability-Tool für Sprachmodelle, das darauf ausgelegt ist, interne Aktivierungen und Attention-Heads neuronaler Netze zu visualisieren und zu analysieren. Es bietet ein Framework zum Verständnis der Informationsverarbeitung von Modellen, indem es interne Modellzustände erfasst und über eine interaktive Weboberfläche rendert. Das System ist darauf spezialisiert, hochdimensionale Aktivierungen mittels Sparse-Autoencodern in interpretierbare latente Merkmale zu zerlegen und automatisierte natürlichsprachliche Erklärungen für einzelne Modellknoten zu generieren. Es ermöglicht die Entdeckung von Modell-Schaltkreisen durch das Mapping von Verbindungen zwischen Komponenten und das Nachverfolgen der Pfade, die für spezifische Verhaltensweisen verantwortlich sind. Das Toolset deckt ein breites Spektrum an Analysefunktionen ab, einschließlich gradientenbasierter Attribution zur Quantifizierung der Knotenwichtigkeit und Echtzeit-Interventionen wie Knoten-Ablation, um zu beobachten, wie die Modifikation interner Zustände den Modellausgang beeinflusst. Es unterstützt zudem Live-Inferenz-Sampling und den Abruf von Aktivierungsdaten von Remote-Backend-Servern und Blob-Speichern.
Hosts a backend server that provides model activations and retrieves pre-computed datasets from remote storage.
Python
