RexYing/gnn-model-explainer
Gnn Model Explainer
Ce toolkit sert de framework pour interpréter les processus décisionnels des réseaux de neurones sur graphes. Il fonctionne comme une bibliothèque permettant d'analyser la manière dont ces modèles traitent des données réseau complexes, en fournissant des méthodes pour identifier les attributs de nœuds et les structures spécifiques qui influencent les résultats prédictifs.
Le projet se distingue par l'utilisation de l'extraction de sous-graphes optimisée par masque et de la cartographie d'attribution basée sur le gradient pour isoler les composants minimaux d'un graphe qui préservent la prédiction originale d'un modèle. En séparant les couches de traitement de graphes de la logique d'explication, l'architecture permet une analyse cohérente sur divers types de réseaux de neurones sur graphes, y compris les modèles convolutifs et basés sur l'attention.
Au-delà de l'interprétation fondamentale, la bibliothèque prend en charge l'entraînement de modèles sur graphes sur des jeux de données synthétiques et réels, et facilite le débogage des modèles de machine learning. Elle inclut des capacités de visualisation des explications de modèles via des notebooks interactifs, permettant le rendu de cartes de chaleur d'attribution et de structures réseau complexes pour aider à identifier les caractéristiques et sous-graphes influents.
Features
- Graph Neural Network Explainers - Identifies influential subgraphs and node features that drive predictive outcomes in graph neural network models.
- Model Interpretability Tools - Determine which specific node attributes or data points have the greatest impact on the decision-making process of a model when making predictions based on graph data.
- Graph - Analyzes how graph-based machine learning models make predictions by identifying influential nodes and structural patterns.
- Mask-Optimized - Learns binary masks over graph components to isolate the minimal structural subset that preserves the original model prediction.
- Feature Importance Attribution - Quantifies the relative contribution of individual input variables to the predictions of machine learning models.
- Attribution Gradients - Computes feature importance by backpropagating model outputs through the computational graph to input gradients.
- Graph Data Analysis Libraries - Provides a collection of routines for training graph convolutional and attention models on network datasets.
- Graph Message Passing Frameworks - Implements neural message passing primitives to learn representations of nodes and edges in graph structures.
- Graph Neural Network Training Routines - Provides routines for training graph convolutional and attention models on synthetic and real-world datasets.
- Machine Learning Debugging - Investigates the internal logic of complex neural networks to identify biases or errors in graph data processing.
- Model Explanation Visualizations - Renders generated masks and model insights through interactive notebooks to facilitate detailed analysis of model interpretations.
- Network Graph Visualization - Renders complex network structures and model insights into clear visual formats to help researchers understand data flow.
- Subgraph Matching - Isolates specific structural components within a graph that contribute most significantly to a model prediction.
