1 Repo
Awesome GitHub RepositoriesNLP Model Debugging
Tools for identifying unexpected behaviors in language models by inspecting internal activations and attention patterns.
Distinct from NLP Model Training Examples: None of the candidates focus on the debugging aspect of NLP models; they focus on examples, assemblers, or training.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · NLP Model Debugging. Refine with filters or upvote what's useful.
Awesome NLP Model Debugging GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- jessevig/bertviz
jessevig/bertviz
8,098Auf GitHub ansehenBertViz ist ein Diagnose-Toolset zur Visualisierung von Attention-Heads und internem Modellverhalten, um zu interpretieren, wie Sprachmodelle Text verarbeiten. Es dient als Interpretierbarkeits-Tool und Debugger für Natural-Language-Processing-Modelle und bietet speziell interaktive Karten von Attention-Mechanismen innerhalb von Transformer-Architekturen. Das Projekt ermöglicht die Analyse von Token-Beziehungen durch detaillierte Ansichten spezifischer Attention-Heads und Layer. Es unterstützt die globale Attention-Visualisierung über alle Layer hinweg, Encoder-Decoder-Attention-Mapping und die Inspektion einzelner Neuronen innerhalb von Query- und Key-Vektoren, um deren Beitrag zu Attention-Berechnungen aufzudecken. Das Tool bietet Funktionen zum Filtern von Ansichten nach Layer, Head oder Satzpaaren. Visualisierungen werden direkt innerhalb von Notebook-Umgebungen via HTML- und JavaScript-Injektion gerendert und können als eigenständige HTML-Dateien für externes Teilen exportiert werden.
Identifies unexpected model behaviors by inspecting specific attention heads and neuron activity.
Python
