Awesome GitHub RepositoriesPyTorch Model Explainability

Acest proiect este o bibliotecă și un framework de viziune computerizată explicabilă (XAI) pentru PyTorch, oferind o suită de instrumente pentru a vizualiza și audita procesele interne de luare a deciziilor ale rețelelor neuronale profunde. Servește drept instrument de atribuire a rețelelor neuronale și utilitar de depanare pentru a identifica ce regiuni ale imaginii conduc predicțiile modelului. Biblioteca se distinge prin suportul său pentru metode de atribuire bazate pe gradient și fără gradient, permițând generarea de hărți de căldură vizuale și hărți de atribuire fără a necesita modificări ale codului sursă original al modelului. Se diferențiază în continuare prin descoperirea conceptelor vizuale, utilizând factorizarea matricială pentru a descompune activările interne în tipare interpretabile și mapând embedding-urile latente la importanța pixelilor. Framework-ul acoperă o gamă largă de capabilități, inclusiv generarea și rafinarea hărților de căldură, transformarea spațială pentru arhitecturi precum vision transformers și adaptări pentru obiective de viziune multi-task, cum ar fi detectarea obiectelor și segmentarea semantică. Include, de asemenea, o suită de evaluare a fidelității modelului care utilizează analiza perturbațiilor, studii de ablație și măsurători de localizare pentru a cuantifica fidelitatea explicațiilor generate. Proiectul oferă mecanisme pentru hooking-ul dinamic al activărilor, adaptarea arhitecturilor personalizate și configurarea obiectivelor bazate pe țintă pentru a conecta instrumentele de explicabilitate la diverse output-uri ale modelelor.