Awesome GitHub RepositoriesL1 Regularization

This project is a comprehensive Chinese translation of a technical deep learning textbook, providing an educational resource on the theory and implementation of neural networks. It functions as a collaborative technical translation project designed to make complex academic AI literature accessible to non-English speakers. The project utilizes a community-driven translation model that integrates external suggestions and pull requests to refine linguistic accuracy and reduce bias. It employs standardized terminology mapping to ensure a uniform vocabulary throughout the translated content. To i

This project is a machine learning algorithm reference and implementation guide that provides theoretical foundations and code for supervised learning, deep learning, and natural language processing. It serves as a comprehensive toolkit for implementing predictive models and a technical reference for algorithm engineering. The project focuses on ensemble learning frameworks, including the construction of decision trees, random forests, and gradient boosting models. It also functions as a probabilistic graphical model library and an NLP algorithm reference, with specific implementations for se

Ce projet est une ressource éducative complète et un manuel technique axé sur le machine learning interprétable et l'IA explicable. Il sert de manuel et de référence pour implémenter des techniques qui rendent les modèles de machine learning complexes transparents et compréhensibles pour les humains. La ressource fournit des conseils à la fois sur la construction de modèles intrinsèquement transparents, tels que les arbres de décision et les modèles linéaires creux, et sur l'application de méthodes d'explication post-hoc aux systèmes boîte noire. Elle détaille des méthodologies spécifiques pour quantifier l'importance des caractéristiques, générer des justifications pour les prédictions individuelles et utiliser des modèles de substitution pour approximer des processus de prise de décision complexes. Le contenu couvre un large éventail de capacités analytiques, notamment l'analyse de l'influence des caractéristiques globales et locales, l'interprétabilité de la vision par ordinateur et l'utilisation de contributions issues de la théorie des jeux comme les valeurs de Shapley. Il aborde également l'évaluation des modèles via des évaluations d'interprétabilité, des flux de travail de débogage pour identifier les raccourcis des modèles et la conception de structures d'algorithmes transparentes. Le projet est implémenté sous forme d'une collection de Jupyter Notebooks.

Ce projet est une bibliothèque PyTorch pour construire et entraîner des réseaux Kolmogorov-Arnold. Il implémente une architecture de réseau neuronal qui remplace les fonctions d'activation fixes par des fonctions basées sur des splines apprenables sur les arêtes, servant d'outil pour le machine learning interprétable. L'implémentation utilise des opérations matricielles reformulées pour réduire la surcharge mémoire et augmenter la vitesse de calcul. Elle emploie une régularisation L1 pour sparsifier les poids du réseau, ce qui améliore la transparence de la logique interne et des décisions du modèle. Le framework couvre un éventail de capacités, incluant l'approximation de fonctions basée sur une grille, les fonctions d'activation B-spline et l'optimisation de modèles d'apprentissage profond. Ces fonctionnalités sont construites en utilisant des tenseurs PyTorch natifs pour prendre en charge la différenciation automatique et l'accélération matérielle.