Awesome GitHub RepositoriesTree Model Interpretability

SHAP is a machine learning explainer that uses a game-theoretic framework to estimate the contribution of each feature to a model prediction. It provides a set of tools for quantifying how individual input features push a specific output away from a baseline value. The project includes specialized explainers for different architectures, including high-speed implementations for decision trees and ensemble models, linearization algorithms for deep learning networks, and covariance integration for linear models. It also features a model-agnostic interpretability tool that uses a kernel method to

Ce projet est une ressource éducative complète et un manuel technique axé sur le machine learning interprétable et l'IA explicable. Il sert de manuel et de référence pour implémenter des techniques qui rendent les modèles de machine learning complexes transparents et compréhensibles pour les humains. La ressource fournit des conseils à la fois sur la construction de modèles intrinsèquement transparents, tels que les arbres de décision et les modèles linéaires creux, et sur l'application de méthodes d'explication post-hoc aux systèmes boîte noire. Elle détaille des méthodologies spécifiques pour quantifier l'importance des caractéristiques, générer des justifications pour les prédictions individuelles et utiliser des modèles de substitution pour approximer des processus de prise de décision complexes. Le contenu couvre un large éventail de capacités analytiques, notamment l'analyse de l'influence des caractéristiques globales et locales, l'interprétabilité de la vision par ordinateur et l'utilisation de contributions issues de la théorie des jeux comme les valeurs de Shapley. Il aborde également l'évaluation des modèles via des évaluations d'interprétabilité, des flux de travail de débogage pour identifier les raccourcis des modèles et la conception de structures d'algorithmes transparentes. Le projet est implémenté sous forme d'une collection de Jupyter Notebooks.

EconML est une bibliothèque Python pour l'inférence causale conçue pour estimer les effets de traitement hétérogènes en utilisant une combinaison de machine learning et d'économétrie. Elle sert de boîte à outils pour calculer les effets de traitement moyens conditionnels afin de déterminer comment des interventions spécifiques impactent des individus ou des sous-groupes. Le projet fournit un framework pour le double machine learning et le machine learning orthogonal afin d'isoler les signaux causaux des facteurs de confusion de haute dimension. Il inclut des implémentations spécialisées pour les forêts causales et les apprenants à variables instrumentales, permettant la récupération de relations causales même en présence de facteurs de confusion non observés. La bibliothèque couvre un large éventail de capacités, notamment la validation de modèles causaux via des tests de réfutation et des courbes de calibration, la construction de politiques de traitement personnalisées et l'analyse de régimes de traitement dynamiques. Elle prend également en charge l'inférence statistique pour la quantification de l'incertitude et l'interprétation de l'hétérogénéité des effets en utilisant des modèles basés sur des arbres et des valeurs de Shapley. Le projet est principalement implémenté et démontré via des Jupyter Notebooks.