Awesome GitHub RepositoriesNeural Network Interpretability

pykan is a library for implementing Kolmogorov-Arnold Networks, replacing fixed node activation functions with learnable spline functions located on the network edges. It serves as an interpretable AI framework and symbolic regression tool designed to derive transparent mathematical rules from complex data. The project focuses on converting learned numerical functions into human-readable symbolic expressions through library matching and formula conversion. It utilizes additive-compositional topologies and learnable piecewise polynomial segments to approximate non-linear mappings. The framewo

This project is a static educational website and comprehensive curriculum focused on computer vision and deep learning. It serves as a public repository of instructional materials, lecture notes, and technical guides specifically detailing convolutional neural networks and visual recognition. The site is developed using static-site generation to host course documentation and student project directories. It provides structured academic resources that guide learners through image classification, generative modeling, and the implementation of various neural network architectures. The curriculum

यह एक PyTorch CNN विज़ुअलाइज़ेशन टूलकिट है जिसे न्यूरल नेटवर्क इंटरप्रिटेबिलिटी के लिए डिज़ाइन किया गया है। यह मॉडल निर्णयों की व्याख्या करने और एक्टिवेशन, ग्रेडिएंट्स और फिल्टर्स के विज़ुअलाइज़ेशन के माध्यम से कन्वेन्शनल न्यूरल नेटवर्क्स के आंतरिक व्यवहार का विश्लेषण करने के लिए टूल्स का एक सेट प्रदान करता है। यह प्रोजेक्ट प्रतिनिधि इमेजेस को संश्लेषित करने के लिए विशेष तकनीकों को लागू करता है, जिसमें पैटर्न को बढ़ाने के लिए Deep Dream ऑप्टिमाइज़ेशन और इनपुट ऑप्टिमाइज़ेशन के माध्यम से क्लास-विशिष्ट इमेज जनरेशन शामिल है। इसमें एक सेलियंसी मैप जनरेटर भी है जो वर्गीकरण परिणाम को प्रभावित करने वाले विशिष्ट इमेज क्षेत्रों की पहचान करने के लिए ग्रेडिएंट-आधारित हीटमैप्स तैयार करता है। यह टूलकिट लेयर विश्लेषण के लिए व्यापक क्षमताओं को कवर करती है, जैसे कि आंतरिक एक्टिवेशन से इनपुट अभ्यावेदन का पुनर्निर्माण करना और नेटवर्क फिल्टर्स को विज़ुअलाइज़ करना। इसमें सेलियंसी मैप्स की स्पष्टता में सुधार करने के लिए ग्रेडिएंट विज़ुअलाइज़ेशन और शोर कम करने की तकनीकें शामिल हैं।

Tensorpack एक उच्च-स्तरीय TensorFlow न्यूरल नेटवर्क फ्रेमवर्क और रिसर्च लाइब्रेरी है जिसे डीप लर्निंग मॉडल्स बनाने और प्रशिक्षित करने के लिए डिज़ाइन किया गया है। यह कंप्यूटर विज़न, जनरेटिव टास्क, रीइन्फोर्समेंट लर्निंग और नेचुरल लैंग्वेज प्रोसेसिंग के लिए पुनरुत्पादक (reproducible) न्यूरल नेटवर्क आर्किटेक्चर का संग्रह प्रदान करता है। प्रोजेक्ट एक विशेष डीप लर्निंग डेटा पाइपलाइन के माध्यम से खुद को अलग करता है जो समानांतर डेटा लोडिंग और स्ट्रीमिंग के लिए शुद्ध Python का उपयोग करती है। इसमें डेटा-समानांतर रणनीतियों के माध्यम से वर्कलोड वितरित करने के लिए एक मल्टी-GPU ट्रेनिंग ऑर्केस्ट्रेटर और मॉडल सेलियंसी और एक्टिवेशन मैप्स को विज़ुअलाइज़ करने के लिए एक समर्पित इंटरप्रिटेबिलिटी टूलकिट शामिल है। फ्रेमवर्क क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है, जिसमें ऑब्जेक्ट डिटेक्शन और सिमेंटिक सेगमेंटेशन के लिए कंप्यूटर विज़न पाइपलाइन्स, स्पीच और टेक्स्ट के लिए अनुक्रम मॉडलिंग, और रीइन्फोर्समेंट लर्निंग एजेंट विकास शामिल है। यह वेट क्वांटाइज़ेशन और लो बिटविड्थ ट्रेनिंग के लिए मॉडल ऑप्टिमाइज़ेशन उपकरण भी प्रदान करता है, साथ ही शैक्षणिक शोध पत्रों को पुनरुत्पादित करने और लीगेसी Caffe मॉडल वेट्स को परिवर्तित करने के लिए यूटिलिटीज भी प्रदान करता है।

This project is a comprehensive educational resource and technical manual focused on interpretable machine learning and explainable AI. It serves as a textbook and reference for implementing techniques that make complex machine learning models transparent and understandable to humans. The resource provides guidance on both building inherently transparent models, such as decision trees and sparse linear models, and applying post-hoc explanation methods to black-box systems. It details specific methodologies for quantifying feature importance, generating rationales for individual predictions, a

Lucid, न्यूरल नेटवर्क्स के इंटरनल रिप्रेजेंटेशन का विश्लेषण करने के लिए डिज़ाइन किया गया एक TensorFlow इंटरप्रिटेबिलिटी टूलकिट और विज़ुअलाइज़ेशन लाइब्रेरी है। यह एक ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन फ्रेमवर्क के रूप में कार्य करता है जो विशिष्ट न्यूरॉन्स और लेयर्स द्वारा सीखी गई विशेषताओं को प्रकट करने के लिए इमेजेस और एटलस जनरेट करता है। यह लाइब्रेरी एक्टिवेशन एटलस बनाने और मॉडल व्यवहार का अध्ययन करने के लिए हाई-डायमेंशनल न्यूरल एक्टिवेशन्स को लो-डायमेंशनल स्पेस में मैप करने में सक्षम बनाती है। यह विजुअल इनपुट्स को ऑप्टिमाइज़ करने के लिए डिफरेंशिएबल इमेज पैरामीट्रिज़ेशन का उपयोग करती है जो नेटवर्क कंपोनेंट्स को अधिकतम रूप से सक्रिय करते हैं। यह सिस्टम एक्टिवेशन डिस्ट्रीब्यूशन मैपिंग और फीचर विज़ुअलाइज़ेशन रिसर्च सहित इंटरप्रिटेबिलिटी इंफ्रास्ट्रक्चर की एक विस्तृत श्रृंखला को कवर करता है। इसमें प्री-ट्रेंड मॉडल्स को इम्पोर्ट करने और निरंतर विश्लेषण के लिए नेटवर्क वेट्स को पर्सिस्ट करने के लिए यूटिलिटीज भी शामिल हैं।

This project is a PyTorch library for building and training Kolmogorov-Arnold Networks. It implements a neural network architecture that replaces fixed activation functions with learnable spline-based functions on edges, serving as a tool for interpretable machine learning. The implementation utilizes reformulated matrix operations to reduce memory overhead and increase computation speed. It employs L1 regularization to sparsify network weights, which improves the transparency of the model's internal logic and decisions. The framework covers a range of capabilities including grid-based funct

This toolkit serves as a framework for interpreting the decision-making processes of graph neural networks. It functions as a library for analyzing how these models process complex network data, providing methods to identify the specific node attributes and structural patterns that influence predictive outcomes. The project distinguishes itself by employing mask-optimized subgraph extraction and gradient-based attribution mapping to isolate the minimal components of a graph that preserve a model's original prediction. By separating graph processing layers from explanation logic, the architect