1 Repo
Awesome GitHub RepositoriesComputer Vision Explainability Frameworks
Frameworks designed to apply interpretability and explainability techniques specifically to vision-based deep learning models.
Distinct from Computer Vision: Distinct from general computer vision frameworks which focus on building and training models rather than explaining their decisions.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Computer Vision Explainability Frameworks. Refine with filters or upvote what's useful.
Awesome Computer Vision Explainability Frameworks GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- jacobgil/pytorch-grad-cam
jacobgil/pytorch-grad-cam
12,893Auf GitHub ansehenDieses Projekt ist eine Computer-Vision-Bibliothek für erklärbare KI und ein Framework für PyTorch, das eine Suite von Tools zur Visualisierung und Prüfung der internen Entscheidungsprozesse tiefer neuronaler Netze bereitstellt. Es dient als Attributions-Tool für neuronale Netze und Debugging-Dienstprogramm, um zu identifizieren, welche Bildregionen Modellvorhersagen steuern. Die Bibliothek zeichnet sich durch ihre Unterstützung sowohl für gradientenbasierte als auch für gradientenfreie Attributionsmethoden aus, was die Generierung visueller Heatmaps und Attributionskarten ermöglicht, ohne dass Änderungen am ursprünglichen Modellquellcode erforderlich sind. Sie differenziert sich zudem durch die Entdeckung visueller Konzepte, wobei Matrixfaktorisierung verwendet wird, um interne Aktivierungen in interpretierbare Muster zu zerlegen und latente Einbettungen auf Pixelwichtigkeit abzubilden. Das Framework deckt ein breites Spektrum an Fähigkeiten ab, einschließlich Heatmap-Generierung und -Verfeinerung, räumlicher Transformation für Architekturen wie Vision-Transformer und Anpassungen für multimodale Vision-Ziele wie Objekterkennung und semantische Segmentierung. Es enthält zudem eine Suite zur Bewertung der Modelltreue, die Störungsanalysen, Ablationsstudien und Lokalisierungsmessungen verwendet, um die Genauigkeit generierter Erklärungen zu quantifizieren. Das Projekt bietet Mechanismen für dynamisches Aktivierungs-Hooking, benutzerdefinierte Architektur-Anpassung und zielorientierte Zielkonfiguration, um Erklärbarkeits-Tools mit verschiedenen Modellausgaben zu verbinden.
Provides a comprehensive framework for applying interpretability and explainability techniques to vision-based deep learning models.
Python
