Awesome GitHub RepositoriesRegularization Techniques

Transformers is a comprehensive library for machine learning that provides a unified interface for training, fine-tuning, and deploying transformer-based models. It supports a wide range of tasks, including text classification, language modeling, question answering, and sequence-to-sequence translation, while offering specialized architectures for both text and vision processing. The framework includes tools for managing the entire model lifecycle, from data preprocessing and tokenization to distributed training and inference. The library features extensive support for model optimization and

This project is an open-source, interactive educational platform designed to teach deep learning through a comprehensive, code-first curriculum. It provides a structured learning path that covers foundational mathematics, modern neural network architectures, and practical optimization techniques, enabling practitioners to master complex artificial intelligence concepts through hands-on experimentation. The platform distinguishes itself by integrating technical explanations with executable Jupyter notebooks. This design allows readers to modify code and hyperparameters in real-time, facilitati

This project is an educational platform and research toolkit designed to teach deep learning through a combination of mathematical theory, visual diagrams, and executable code. It provides a comprehensive environment for building, training, and evaluating neural networks, grounding complex concepts in interactive computational notebooks that allow for hands-on experimentation. The framework distinguishes itself by interleaving theoretical foundations—including linear algebra, calculus, and probability—with practical implementations across multiple industry-standard libraries. It supports flex

Fastai is a high-level deep learning library built on PyTorch that provides a unified interface for managing the entire machine learning lifecycle. It functions as a comprehensive training toolkit, abstracting hardware management and automating complex training loops to simplify the construction and execution of neural network models. The framework is distinguished by its notebook-centric development environment and a type-dispatching data pipeline that automatically applies transformations based on input data formats. It emphasizes transfer learning through discriminative layer-wise optimiza

This project provides a collection of machine learning algorithms implemented from scratch in Python. It serves as an educational resource using interactive notebooks that combine code with mathematical explanations to demonstrate the first principles of data science. The repository includes reference implementations for neural networks, such as multilayer perceptrons with backpropagation, and supervised learning models including linear and logistic regression. It also covers unsupervised learning through k-means clustering and Gaussian anomaly detection. The codebase covers a broad range of

This repository is an educational collection of deep learning implementations designed to demonstrate the fundamental principles of neural network architecture and optimization. It provides a comprehensive resource for understanding machine learning through hands-on code examples, ranging from basic multilayer perceptrons to complex generative models. The project distinguishes itself by emphasizing the manual construction of models, including the implementation of backpropagation from scratch to illustrate core mathematical mechanics. It covers a wide array of architectural design patterns, s

DINOv2 is a self-supervised vision transformer foundation model designed to generate high-quality visual representations from raw image data. By leveraging large-scale unlabelled datasets, the framework learns to extract robust numerical embeddings that serve as inputs for various machine learning and analysis workflows. The model distinguishes itself through a teacher-student training framework that utilizes centered and sharpened soft probability distributions to align feature maps across multiple image crops. It incorporates a masking strategy that forces the model to reconstruct missing i

This repository collects illustrated single-page cheat sheets that compress the core topics of Stanford's CS 230 deep learning course into visual reference summaries. The collection covers convolutional neural networks, recurrent neural networks, and practical training techniques, pairing schematic diagrams with mathematical notation to bridge intuition and formal understanding. The cheat sheets are organized by subject area and link related concepts across topics, such as connecting vanishing gradients to LSTM gates, to reinforce the full deep learning workflow. Practical training advice on

PyTorch Metric Learning is an open-source library for training neural networks to produce similarity-preserving embedding spaces. It provides a modular framework where interchangeable loss functions, mining strategies, and evaluation tools can be composed to learn representations that map similar items to nearby points and dissimilar items to distant points in the embedding space. The library distinguishes itself through a highly configurable architecture that separates concerns across several interchangeable components. Users can assemble custom loss functions from pluggable distance metrics

GluonTS est un framework pour la prévision probabiliste de séries temporelles, conçu pour prédire les valeurs futures sous forme de distributions de probabilité avec des intervalles de confiance. Il prend en charge à la fois l'entraînement de modèle traditionnel et la prévision zero-shot, où des modèles pré-entraînés génèrent des prédictions pour de nouvelles séries sans entraînement supplémentaire. Le projet se distingue en intégrant une grande variété d'approches de prévision dans un flux de travail unifié. Cela inclut des architectures de deep learning telles que les réseaux neuronaux récurrents et les convolutions causales, ainsi que l'intégration de modèles statistiques externes, la bibliothèque Prophet et les packages R. La boîte à outils fournit une surface complète pour l'ingénierie des données de séries temporelles, couvrant la mise à l'échelle des ensembles de données, la division et la transformation des données temporelles brutes en tenseurs. Elle inclut également une suite d'outils d'évaluation pour mesurer la précision des prévisions et les intervalles d'incertitude, ainsi que des utilitaires pour la persistance des ensembles de données utilisant des formats comme Arrow et Parquet. Le framework prend en charge le déploiement de modèles de prévision au sein de l'infrastructure cloud.

GluonTS est une bibliothèque de séries temporelles probabilistes et un framework de prévision par deep learning. Il fournit une boîte à outils pour construire, entraîner et évaluer des architectures de réseau neuronal qui prédisent les valeurs futures sous forme de distributions de probabilité pour quantifier l'incertitude. Le projet se distingue en prenant en charge la prévision zero-shot et en intégrant diverses approches de modélisation, y compris les réseaux neuronaux probabilistes profonds et des wrappers pour des bibliothèques statistiques externes telles que Prophet et R forecast. Il implémente des primitives architecturales spécialisées comme les convolutions causales et les réseaux résiduels inversibles pour empêcher la fuite d'informations et mapper les représentations latentes en distributions de probabilité valides. Le framework couvre une surface d'ingénierie de données complète, y compris la mise à l'échelle des séries temporelles, les transformations bijectives et la modélisation hiérarchique. Il utilise Apache Arrow et Parquet pour la diffusion d'ensembles de données haute performance et la gestion de l'accès aléatoire. Pour l'évaluation des modèles, il inclut une suite d'évaluation pour mesurer la précision des prévisions et la couverture probabiliste en utilisant des métriques comme la perte quantile et les scores de probabilité de rang continu. La bibliothèque prend en charge le déploiement de modèles via l'intégration avec Amazon SageMaker.

This project is a collection of comprehensive guides and reference materials designed for technical interviews, machine learning system design, and professional development. It serves as a technical knowledge base and a career coaching manual, providing structured resources to help candidates navigate the machine learning hiring landscape. The resource distinguishes itself by offering detailed frameworks for comparing industry roles, analyzing company types, and planning long-term career progression. It provides specific guidance on evaluating employer organizational health, identifying resea

Ce projet est une bibliothèque complète pour le transfer learning et l'adaptation de domaine en vision par ordinateur. Il sert de framework pour aligner les distributions de caractéristiques entre des jeux de données source et cible, une boîte à outils pour la généralisation de domaine, et une bibliothèque pour l'apprentissage semi-supervisé utilisant de petits jeux de données étiquetés et de grands ensembles non étiquetés. La bibliothèque fournit des capacités spécialisées pour l'adaptation de domaine non supervisée, incluant l'utilisation de réseaux adverses, d'architectures basées sur la divergence et de traduction image-à-image pour réduire le décalage de distribution. Elle inclut également des outils pour la généralisation de domaine afin d'assurer la fiabilité du modèle à travers des domaines cibles non vus via le mélange de styles et la minimisation du risque invariant. Le projet couvre une large surface de capacités incluant l'adaptation de tâche et le fine-tuning avec régularisation spécialisée, l'entraînement semi-supervisé via le pseudo-étiquetage et l'apprentissage par cohérence, et la sélection de modèles de transfer learning utilisant des métriques de transférabilité. Il inclut également un gestionnaire de jeux de données pour automatiser l'acquisition et la préparation de benchmarks de vision standardisés. La bibliothèque inclut des utilitaires pour la surveillance et l'observabilité, tels que des visualisations t-SNE et des métriques de distance A pour analyser les distributions de caractéristiques et la divergence de domaine.

This project is a computer vision pipeline and volumetric rendering system used to transform photos and videos into high-fidelity 3D models. It implements a deformable neural radiance field framework that optimizes deformation fields to represent non-rigid moving subjects in three dimensions. The system utilizes volumetric deformation fields to map 3D coordinates from a static canonical space to a deformed state. This allows for the reconstruction of photorealistic scenes and the synthesis of high-fidelity images from camera perspectives not present in the original input data. The framework

DeepLearnToolbox is a research-oriented framework for constructing, training, and optimizing hierarchical neural networks within the Matlab and Octave environments. It provides a modular set of tools for building diverse network topologies, including feedforward, convolutional, and deep belief architectures, using native matrix-based numerical computation. The library distinguishes itself through its support for layer-wise unsupervised pre-training, which establishes initial weights for deep models before supervised fine-tuning. It incorporates stochastic gradient descent and backpropagation

This project is a machine learning educational archive and technical documentation collection. It serves as a deep learning tutorial series and implementation guide, providing theoretical explanations and practical walkthroughs for constructing and optimizing neural networks. The content focuses on the design and construction of diverse model architectures, including convolutional neural networks, Long Short-Term Memory networks, and generative adversarial networks. It details specific implementation patterns for autoencoders, sentiment analysis models, and various classification approaches.