Awesome GitHub RepositoriesComputer Vision Model Debugging

Acest proiect este o bibliotecă și un framework de viziune computerizată explicabilă (XAI) pentru PyTorch, oferind o suită de instrumente pentru a vizualiza și audita procesele interne de luare a deciziilor ale rețelelor neuronale profunde. Servește drept instrument de atribuire a rețelelor neuronale și utilitar de depanare pentru a identifica ce regiuni ale imaginii conduc predicțiile modelului. Biblioteca se distinge prin suportul său pentru metode de atribuire bazate pe gradient și fără gradient, permițând generarea de hărți de căldură vizuale și hărți de atribuire fără a necesita modificări ale codului sursă original al modelului. Se diferențiază în continuare prin descoperirea conceptelor vizuale, utilizând factorizarea matricială pentru a descompune activările interne în tipare interpretabile și mapând embedding-urile latente la importanța pixelilor. Framework-ul acoperă o gamă largă de capabilități, inclusiv generarea și rafinarea hărților de căldură, transformarea spațială pentru arhitecturi precum vision transformers și adaptări pentru obiective de viziune multi-task, cum ar fi detectarea obiectelor și segmentarea semantică. Include, de asemenea, o suită de evaluare a fidelității modelului care utilizează analiza perturbațiilor, studii de ablație și măsurători de localizare pentru a cuantifica fidelitatea explicațiilor generate. Proiectul oferă mecanisme pentru hooking-ul dinamic al activărilor, adaptarea arhitecturilor personalizate și configurarea obiectivelor bazate pe țintă pentru a conecta instrumentele de explicabilitate la diverse output-uri ale modelelor.

Vit-explain este un framework de diagnosticare conceput pentru a interpreta procesele de luare a deciziilor ale modelelor de tip vision transformer. Funcționează ca un toolkit pentru inspectarea stărilor interne ale modelului, permițând utilizatorilor să mapeze atenția vizuală și să analizeze modul în care caracteristicile specifice ale imaginii influențează rezultatele clasificării. Proiectul se distinge prin furnizarea unei interpretări post-hoc a modelului, care permite analiza rețelelor neuronale antrenate fără a necesita modificări arhitecturale sau reantrenare. Utilizează tehnici precum extragerea de caracteristici bazată pe hook-uri pentru a intercepta activările interne în timpul trecerii înainte (forward pass), alături de metode precum transformer attention rollout și layer-wise relevance propagation pentru a urmări fluxul de informații de la input la output. Prin generarea de hărți de căldură (heatmaps) care urmăresc fluxul de atenție și distribuția ponderilor, framework-ul vizualizează care pixeli și tipare specifice conduc predicțiile unui model. Suportă explicații specifice clasei prin filtrarea hărților de atenție cu gradienți ai clasei țintă, oferind un utilitar de diagnosticare pentru depanarea modelelor de deep learning și identificarea elementelor vizuale care contribuie la rezultatele clasificării.