Awesome GitHub RepositoriesAttribution Algorithm Benchmarks

Este proyecto es una biblioteca y framework de IA explicable de visión por computadora para PyTorch, que proporciona un conjunto de herramientas para visualizar y auditar los procesos internos de toma de decisiones de las redes neuronales profundas. Sirve como una herramienta de atribución de red neuronal y utilidad de depuración para identificar qué regiones de la imagen impulsan las predicciones del modelo. La biblioteca se distingue por su soporte para métodos de atribución basados en gradientes y sin gradientes, lo que permite la generación de mapas de calor visuales y mapas de atribución sin requerir modificaciones en el código fuente del modelo original. Se diferencia aún más a través del descubrimiento de conceptos visuales, utilizando factorización de matrices para descomponer activaciones internas en patrones interpretables y mapear incrustaciones latentes a la importancia de los píxeles. El framework cubre una amplia gama de capacidades, incluyendo generación y refinamiento de mapas de calor, transformación espacial para arquitecturas como transformadores de visión y adaptaciones para objetivos de visión multitarea como detección de objetos y segmentación semántica. También incluye una suite de evaluación de fidelidad del modelo que emplea análisis de perturbación, estudios de ablación y mediciones de localización para cuantificar la fidelidad de las explicaciones generadas. El proyecto proporciona mecanismos para el enganche dinámico de activación, adaptación de arquitectura personalizada y configuración de objetivos impulsada por objetivos para conectar herramientas de explicabilidad a varias salidas de modelos.

Captum is an open-source library for explaining model predictions by attributing them to input features, neurons, and layers using gradient-based and perturbation-based methods. It provides a modular framework for implementing, evaluating, and combining a range of explanation techniques, including gradient-based attribution, perturbation-based analysis, game-theoretic Shapley value approximation, and surrogate model explanations, with support for parallelization and noise stabilization. The library distinguishes itself through its breadth of attribution methods and its support for advanced in