Awesome GitHub RepositoriesNeural Network Interpretability

pykan is a library for implementing Kolmogorov-Arnold Networks, replacing fixed node activation functions with learnable spline functions located on the network edges. It serves as an interpretable AI framework and symbolic regression tool designed to derive transparent mathematical rules from complex data. The project focuses on converting learned numerical functions into human-readable symbolic expressions through library matching and formula conversion. It utilizes additive-compositional topologies and learnable piecewise polynomial segments to approximate non-linear mappings. The framewo

This project is a static educational website and comprehensive curriculum focused on computer vision and deep learning. It serves as a public repository of instructional materials, lecture notes, and technical guides specifically detailing convolutional neural networks and visual recognition. The site is developed using static-site generation to host course documentation and student project directories. It provides structured academic resources that guide learners through image classification, generative modeling, and the implementation of various neural network architectures. The curriculum

Il s'agit d'une boîte à outils de visualisation CNN PyTorch conçue pour l'interprétabilité des réseaux de neurones. Elle fournit un ensemble d'outils pour expliquer les décisions des modèles et analyser le comportement interne des réseaux de neurones convolutifs par la visualisation des activations, des gradients et des filtres. Le projet implémente des techniques spécialisées pour synthétiser des images représentatives, y compris des optimisations Deep Dream pour amplifier les motifs et la génération d'images spécifiques à une classe via l'optimisation des entrées. Il dispose également d'un générateur de cartes de saillance qui produit des cartes thermiques basées sur le gradient pour identifier les régions d'image spécifiques influençant un résultat de classification. La boîte à outils couvre des capacités plus larges pour l'analyse de couches, telles que la reconstruction de représentations d'entrée à partir d'activations internes et la visualisation des filtres de réseau. Elle inclut des méthodes pour la visualisation des gradients et des techniques de réduction du bruit pour améliorer la clarté des cartes de saillance.

Tensorpack est un framework de réseau de neurones TensorFlow de haut niveau et une bibliothèque de recherche conçue pour construire et entraîner des modèles de deep learning. Il fournit une collection d'architectures de réseaux de neurones reproductibles pour la vision par ordinateur, les tâches génératives, l'apprentissage par renforcement et le traitement du langage naturel. Le projet se distingue par un pipeline de données de deep learning spécialisé qui utilise du Python pur pour le chargement et le streaming de données en parallèle. Il inclut un orchestrateur d'entraînement multi-GPU pour distribuer les charges de travail via des stratégies de parallélisme de données et un toolkit d'interprétabilité dédié pour visualiser la saillance des modèles et les cartes d'activation. Le framework couvre un large éventail de capacités, incluant des pipelines de vision par ordinateur pour la détection d'objets et la segmentation sémantique, la modélisation de séquences pour la parole et le texte, et le développement d'agents d'apprentissage par renforcement. Il fournit également des outils d'optimisation de modèle pour la quantification des poids et l'entraînement en faible précision, ainsi que des utilitaires pour reproduire des articles de recherche académique et convertir des poids de modèles Caffe legacy.

Ce projet est une ressource éducative complète et un manuel technique axé sur le machine learning interprétable et l'IA explicable. Il sert de manuel et de référence pour implémenter des techniques qui rendent les modèles de machine learning complexes transparents et compréhensibles pour les humains. La ressource fournit des conseils à la fois sur la construction de modèles intrinsèquement transparents, tels que les arbres de décision et les modèles linéaires creux, et sur l'application de méthodes d'explication post-hoc aux systèmes boîte noire. Elle détaille des méthodologies spécifiques pour quantifier l'importance des caractéristiques, générer des justifications pour les prédictions individuelles et utiliser des modèles de substitution pour approximer des processus de prise de décision complexes. Le contenu couvre un large éventail de capacités analytiques, notamment l'analyse de l'influence des caractéristiques globales et locales, l'interprétabilité de la vision par ordinateur et l'utilisation de contributions issues de la théorie des jeux comme les valeurs de Shapley. Il aborde également l'évaluation des modèles via des évaluations d'interprétabilité, des flux de travail de débogage pour identifier les raccourcis des modèles et la conception de structures d'algorithmes transparentes. Le projet est implémenté sous forme d'une collection de Jupyter Notebooks.

Lucid est une boîte à outils d'interprétabilité et une bibliothèque de visualisation TensorFlow conçue pour analyser les représentations internes des réseaux de neurones. Elle fonctionne comme un framework d'optimisation basé sur le gradient qui génère des images et des atlas pour révéler les caractéristiques apprises par des neurones et des couches spécifiques. La bibliothèque permet la création d'atlas d'activation et le mappage d'activations neuronales de haute dimension dans des espaces de dimension inférieure pour étudier le comportement du modèle. Elle utilise la paramétrisation d'image différentiable pour optimiser les entrées visuelles qui activent au maximum les composants du réseau. Le système couvre un large éventail d'infrastructures d'interprétabilité, incluant le mappage de distribution d'activation et la recherche en visualisation de caractéristiques. Il inclut également des utilitaires pour importer des modèles pré-entraînés et persister les poids du réseau pour une analyse continue.

Ce projet est une bibliothèque PyTorch pour construire et entraîner des réseaux Kolmogorov-Arnold. Il implémente une architecture de réseau neuronal qui remplace les fonctions d'activation fixes par des fonctions basées sur des splines apprenables sur les arêtes, servant d'outil pour le machine learning interprétable. L'implémentation utilise des opérations matricielles reformulées pour réduire la surcharge mémoire et augmenter la vitesse de calcul. Elle emploie une régularisation L1 pour sparsifier les poids du réseau, ce qui améliore la transparence de la logique interne et des décisions du modèle. Le framework couvre un éventail de capacités, incluant l'approximation de fonctions basée sur une grille, les fonctions d'activation B-spline et l'optimisation de modèles d'apprentissage profond. Ces fonctionnalités sont construites en utilisant des tenseurs PyTorch natifs pour prendre en charge la différenciation automatique et l'accélération matérielle.

Ce toolkit sert de framework pour interpréter les processus décisionnels des réseaux de neurones sur graphes. Il fonctionne comme une bibliothèque permettant d'analyser la manière dont ces modèles traitent des données réseau complexes, en fournissant des méthodes pour identifier les attributs de nœuds et les structures spécifiques qui influencent les résultats prédictifs. Le projet se distingue par l'utilisation de l'extraction de sous-graphes optimisée par masque et de la cartographie d'attribution basée sur le gradient pour isoler les composants minimaux d'un graphe qui préservent la prédiction originale d'un modèle. En séparant les couches de traitement de graphes de la logique d'explication, l'architecture permet une analyse cohérente sur divers types de réseaux de neurones sur graphes, y compris les modèles convolutifs et basés sur l'attention. Au-delà de l'interprétation fondamentale, la bibliothèque prend en charge l'entraînement de modèles sur graphes sur des jeux de données synthétiques et réels, et facilite le débogage des modèles de machine learning. Elle inclut des capacités de visualisation des explications de modèles via des notebooks interactifs, permettant le rendu de cartes de chaleur d'attribution et de structures réseau complexes pour aider à identifier les caractéristiques et sous-graphes influents.