2 dépôts
Awesome GitHub RepositoriesCustom Attribution Algorithm Frameworks
Generic base classes and hooks for implementing, benchmarking, and sharing new attribution methods.
Distinct from Model Interpretability Frameworks: Distinct from Model Interpretability Frameworks: focuses on the extensibility mechanism for adding new attribution algorithms, not the full interpretability workflow.
Explore 2 awesome GitHub repositories matching artificial intelligence & ml · Custom Attribution Algorithm Frameworks. Refine with filters or upvote what's useful.
Awesome Custom Attribution Algorithm Frameworks GitHub Repositories
Trouvez les meilleurs dépôts grâce à l'IA.Nous recherchons les dépôts les plus pertinents grâce à l'IA.
- pytorch/captum
pytorch/captum
5,652Voir sur GitHubCaptum is an open-source library for explaining model predictions by attributing them to input features, neurons, and layers using gradient-based and perturbation-based methods. It provides a modular framework for implementing, evaluating, and combining a range of explanation techniques, including gradient-based attribution, perturbation-based analysis, game-theoretic Shapley value approximation, and surrogate model explanations, with support for parallelization and noise stabilization. The library distinguishes itself through its breadth of attribution methods and its support for advanced in
Provides a generic framework for implementing, benchmarking, and sharing new attribution methods.
Python - cdpierse/transformers-interpret
cdpierse/transformers-interpret
1,412Voir sur GitHubTransformers-interpret est une bibliothèque de diagnostic conçue pour l'interprétabilité des modèles de machine learning basés sur des transformers. Elle fonctionne comme un framework d'attribution qui quantifie la contribution des jetons d'entrée individuels aux prédictions finales d'un modèle, permettant aux utilisateurs d'auditer les modèles de décision et de déboguer les tâches de traitement du langage naturel. La bibliothèque utilise l'analyse basée sur le gradient et l'introspection basée sur des hooks pour tracer comment des caractéristiques d'entrée spécifiques influencent les sorties du modèle. En mappant les scores d'attribution numériques abstraits vers des unités linguistiques lisibles par l'homme, elle offre une vue claire de la façon dont les modèles traitent le texte. Le framework prend en charge l'analyse ciblée, permettant aux utilisateurs d'expliquer les prédictions pour des classes spécifiques ou d'examiner les relations d'entrée par paires. Au-delà de l'attribution de base, l'outil inclut des capacités de visualisation qui génèrent des représentations graphiques et tabulaires de l'importance des caractéristiques. Ces sorties aident à vérifier que les modèles s'appuient sur des données pertinentes plutôt que sur des modèles involontaires, facilitant une compréhension plus profonde du comportement du modèle à travers diverses architectures de transformers.
Provides a framework-agnostic engine that decouples attribution logic from specific transformer model architectures.
Jupyter Notebookcaptumcomputer-visiondeep-learning
