Awesome GitHub RepositoriesAttribution Algorithm Benchmarks

Ce projet est une bibliothèque et un framework d'IA explicable pour la vision par ordinateur pour PyTorch, fournissant une suite d'outils pour visualiser et auditer les processus de prise de décision internes des réseaux de neurones profonds. Il sert d'outil d'attribution de réseau de neurones et d'utilitaire de débogage pour identifier quelles régions d'image conduisent les prédictions du modèle. La bibliothèque se distingue par son support pour les méthodes d'attribution basées sur le gradient et sans gradient, permettant la génération de cartes thermiques visuelles et de cartes d'attribution sans nécessiter de modifications du code source du modèle original. Elle se différencie en outre par la découverte de concepts visuels, utilisant la factorisation de matrice pour décomposer les activations internes en modèles interprétables et cartographier les intégrations latentes à l'importance des pixels. Le framework couvre un large éventail de capacités, notamment la génération et le raffinement de cartes thermiques, la transformation spatiale pour des architectures comme les transformeurs de vision, et des adaptations pour des objectifs de vision multi-tâches tels que la détection d'objets et la segmentation sémantique. Il inclut également une suite d'évaluation de la fidélité du modèle qui utilise l'analyse de perturbation, les études d'ablation et les mesures de localisation pour quantifier la fidélité des explications générées. Le projet fournit des mécanismes pour le hook d'activation dynamique, l'adaptation d'architecture personnalisée et la configuration d'objectifs axée sur la cible pour connecter les outils d'explicabilité à diverses sorties de modèle.

Captum is an open-source library for explaining model predictions by attributing them to input features, neurons, and layers using gradient-based and perturbation-based methods. It provides a modular framework for implementing, evaluating, and combining a range of explanation techniques, including gradient-based attribution, perturbation-based analysis, game-theoretic Shapley value approximation, and surrogate model explanations, with support for parallelization and noise stabilization. The library distinguishes itself through its breadth of attribution methods and its support for advanced in