1 repository
Awesome GitHub RepositoriesComputer Vision Explainability Frameworks
Frameworks designed to apply interpretability and explainability techniques specifically to vision-based deep learning models.
Distinct from Computer Vision: Distinct from general computer vision frameworks which focus on building and training models rather than explaining their decisions.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Computer Vision Explainability Frameworks. Refine with filters or upvote what's useful.
Awesome Computer Vision Explainability Frameworks GitHub Repositories
Găsește cele mai bune repo-uri cu AI.Vom căuta cele mai potrivite repository-uri folosind AI.
- jacobgil/pytorch-grad-cam
jacobgil/pytorch-grad-cam
12,893Vezi pe GitHubAcest proiect este o bibliotecă și un framework de viziune computerizată explicabilă (XAI) pentru PyTorch, oferind o suită de instrumente pentru a vizualiza și audita procesele interne de luare a deciziilor ale rețelelor neuronale profunde. Servește drept instrument de atribuire a rețelelor neuronale și utilitar de depanare pentru a identifica ce regiuni ale imaginii conduc predicțiile modelului. Biblioteca se distinge prin suportul său pentru metode de atribuire bazate pe gradient și fără gradient, permițând generarea de hărți de căldură vizuale și hărți de atribuire fără a necesita modificări ale codului sursă original al modelului. Se diferențiază în continuare prin descoperirea conceptelor vizuale, utilizând factorizarea matricială pentru a descompune activările interne în tipare interpretabile și mapând embedding-urile latente la importanța pixelilor. Framework-ul acoperă o gamă largă de capabilități, inclusiv generarea și rafinarea hărților de căldură, transformarea spațială pentru arhitecturi precum vision transformers și adaptări pentru obiective de viziune multi-task, cum ar fi detectarea obiectelor și segmentarea semantică. Include, de asemenea, o suită de evaluare a fidelității modelului care utilizează analiza perturbațiilor, studii de ablație și măsurători de localizare pentru a cuantifica fidelitatea explicațiilor generate. Proiectul oferă mecanisme pentru hooking-ul dinamic al activărilor, adaptarea arhitecturilor personalizate și configurarea obiectivelor bazate pe țintă pentru a conecta instrumentele de explicabilitate la diverse output-uri ale modelelor.
Provides a comprehensive framework for applying interpretability and explainability techniques to vision-based deep learning models.
Python
