2 repository-uri
Awesome GitHub RepositoriesAttribution Algorithm Benchmarks
Comparing and evaluating custom interpretability methods against built-in attribution algorithms for reliability and performance.
Distinct from Algorithm Benchmarking Libraries: Distinct from general Algorithm Benchmarking Libraries: specifically benchmarks attribution and interpretability algorithms, not general ML or RL algorithms.
Explore 2 awesome GitHub repositories matching artificial intelligence & ml · Attribution Algorithm Benchmarks. Refine with filters or upvote what's useful.
Awesome Attribution Algorithm Benchmarks GitHub Repositories
Găsește cele mai bune repo-uri cu AI.Vom căuta cele mai potrivite repository-uri folosind AI.
- jacobgil/pytorch-grad-cam
jacobgil/pytorch-grad-cam
12,893Vezi pe GitHubAcest proiect este o bibliotecă și un framework de viziune computerizată explicabilă (XAI) pentru PyTorch, oferind o suită de instrumente pentru a vizualiza și audita procesele interne de luare a deciziilor ale rețelelor neuronale profunde. Servește drept instrument de atribuire a rețelelor neuronale și utilitar de depanare pentru a identifica ce regiuni ale imaginii conduc predicțiile modelului. Biblioteca se distinge prin suportul său pentru metode de atribuire bazate pe gradient și fără gradient, permițând generarea de hărți de căldură vizuale și hărți de atribuire fără a necesita modificări ale codului sursă original al modelului. Se diferențiază în continuare prin descoperirea conceptelor vizuale, utilizând factorizarea matricială pentru a descompune activările interne în tipare interpretabile și mapând embedding-urile latente la importanța pixelilor. Framework-ul acoperă o gamă largă de capabilități, inclusiv generarea și rafinarea hărților de căldură, transformarea spațială pentru arhitecturi precum vision transformers și adaptări pentru obiective de viziune multi-task, cum ar fi detectarea obiectelor și segmentarea semantică. Include, de asemenea, o suită de evaluare a fidelității modelului care utilizează analiza perturbațiilor, studii de ablație și măsurători de localizare pentru a cuantifica fidelitatea explicațiilor generate. Proiectul oferă mecanisme pentru hooking-ul dinamic al activărilor, adaptarea arhitecturilor personalizate și configurarea obiectivelor bazate pe țintă pentru a conecta instrumentele de explicabilitate la diverse output-uri ale modelelor.
Benchmarks various attribution algorithms like GradCAM and ScoreCAM to evaluate their reliability and performance.
Python - pytorch/captum
pytorch/captum
5,652Vezi pe GitHubCaptum is an open-source library for explaining model predictions by attributing them to input features, neurons, and layers using gradient-based and perturbation-based methods. It provides a modular framework for implementing, evaluating, and combining a range of explanation techniques, including gradient-based attribution, perturbation-based analysis, game-theoretic Shapley value approximation, and surrogate model explanations, with support for parallelization and noise stabilization. The library distinguishes itself through its breadth of attribution methods and its support for advanced in
Compares and evaluates custom interpretability methods against built-in attribution algorithms for reliability and performance.
Python
