Awesome GitHub RepositoriesInterpretability-Based Debugging

Dieses Projekt ist eine umfassende Bildungsressource und ein technisches Handbuch, das sich auf interpretierbares Machine Learning und erklärbare KI konzentriert. Es dient als Lehrbuch und Referenz für die Implementierung von Techniken, die komplexe Machine-Learning-Modelle für Menschen transparent und verständlich machen. Die Ressource bietet Anleitungen sowohl zum Aufbau inhärent transparenter Modelle, wie Entscheidungsbäumen und dünnbesetzten linearen Modellen, als auch zur Anwendung von Post-hoc-Erklärungsmethoden auf Black-Box-Systeme. Sie beschreibt spezifische Methoden zur Quantifizierung der Merkmalswichtigkeit, zur Generierung von Begründungen für individuelle Vorhersagen und zur Verwendung von Surrogat-Modellen zur Approximation komplexer Entscheidungsprozesse. Der Inhalt deckt ein breites Spektrum analytischer Funktionen ab, einschließlich der Analyse des globalen und lokalen Merkmalseinflusses, der Interpretierbarkeit von Computer Vision und der Verwendung spieltheoretischer Beiträge wie Shapley-Werten. Er befasst sich zudem mit der Modellevaluierung durch Interpretierbarkeitsbewertungen, Debugging-Workflows zur Identifizierung von Modell-Shortcuts und dem Design transparenter Algorithmusstrukturen. Das Projekt ist als Sammlung von Jupyter Notebooks implementiert.