1 रिपॉजिटरी
Awesome GitHub RepositoriesNLP Model Debugging
Tools for identifying unexpected behaviors in language models by inspecting internal activations and attention patterns.
Distinct from NLP Model Training Examples: None of the candidates focus on the debugging aspect of NLP models; they focus on examples, assemblers, or training.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · NLP Model Debugging. Refine with filters or upvote what's useful.
Awesome NLP Model Debugging GitHub Repositories
AI के साथ बेहतरीन रिपॉजिटरी खोजें।हम AI का उपयोग करके सबसे सटीक रिपॉजिटरी खोजेंगे।
- jessevig/bertviz
jessevig/bertviz
8,098GitHub पर देखेंBertViz एक डायग्नोस्टिक टूलसेट है जो यह व्याख्या करने के लिए अटेंशन हेड्स और आंतरिक मॉडल व्यवहारों को विज़ुअलाइज़ करता है कि भाषा मॉडल्स टेक्स्ट को कैसे प्रोसेस करते हैं। यह नेचुरल लैंग्वेज प्रोसेसिंग मॉडल्स के लिए एक इंटरप्रिटेबिलिटी टूल और डिबगर के रूप में कार्य करता है, जो विशेष रूप से ट्रांसफॉर्मर आर्किटेक्चर के भीतर अटेंशन तंत्र के इंटरैक्टिव मैप्स प्रदान करता है। यह प्रोजेक्ट विशिष्ट अटेंशन हेड्स और लेयर्स के विस्तृत दृश्यों के माध्यम से टोकन संबंधों के विश्लेषण को सक्षम बनाता है। यह सभी लेयर्स में ग्लोबल अटेंशन विज़ुअलाइज़ेशन, एनकोडर-डिकोडर अटेंशन मैपिंग, और क्वेरी और की वेक्टर्स के भीतर व्यक्तिगत न्यूरॉन्स के निरीक्षण का समर्थन करता है ताकि अटेंशन गणनाओं में उनके योगदान का पता चल सके। यह टूल लेयर, हेड या वाक्य जोड़ों द्वारा दृश्यों को फ़िल्टर करने के लिए क्षमताएं प्रदान करता है। विज़ुअलाइज़ेशन HTML और JavaScript इंजेक्शन के माध्यम से सीधे नोटबुक एनवायरनमेंट में रेंडर किए जाते हैं, और उन्हें बाहरी साझाकरण के लिए स्टैंडअलोन HTML फाइलों के रूप में एक्सपोर्ट किया जा सकता है।
Identifies unexpected model behaviors by inspecting specific attention heads and neuron activity.
Python
