Awesome GitHub RepositoriesFully Connected Layers

This project is a static educational website and comprehensive curriculum focused on computer vision and deep learning. It serves as a public repository of instructional materials, lecture notes, and technical guides specifically detailing convolutional neural networks and visual recognition. The site is developed using static-site generation to host course documentation and student project directories. It provides structured academic resources that guide learners through image classification, generative modeling, and the implementation of various neural network architectures. The curriculum

This project is a comprehensive collection of educational examples and reference implementations for building vision and language models using PyTorch. It serves as a deep learning tutorial covering the end-to-end process of developing neural networks, from initial architecture definition to final production deployment. The repository provides detailed guides on implementing a wide range of domain-specific models, including convolutional neural networks for object detection and segmentation, as well as transformer and recurrent architectures for natural language processing. It emphasizes gene

Liger-Kernel is a collection of pre-built fused Triton kernels and patching utilities designed to accelerate large language model training. It provides drop-in kernel replacements for common LLM operations such as RMSNorm, cross-entropy loss, and attention, enabling increased throughput and reduced memory usage while preserving bitwise-exact gradients. The project serves as a toolkit for composing custom model architectures from individual optimized kernels and for patching pre-existing models with minimal code changes. The project distinguishes itself through its ability to perform runtime m

Publication-ready NN-architecture schematics.

Ce projet est une implémentation TensorFlow d'un réseau de neurones convolutif conçu pour la classification de texte. Il fonctionne comme un catégoriseur de texte par deep learning qui assigne des étiquettes prédéfinies aux documents texte en identifiant et en analysant des modèles appris au sein des jeux d'entraînement. Le modèle utilise une séquence de vectorisation par couche d'embedding, des couches convolutives pour l'extraction de caractéristiques et un sous-échantillonnage par max-pooling pour traiter les données textuelles. Les probabilités de catégorie finales sont déterminées via un système de classification par couche dense. Le flux de travail couvre le cycle de vie complet du machine learning, incluant l'apprentissage supervisé de texte, l'entraînement de modèle avec des dimensions d'embedding et des tailles de filtre configurables, et l'évaluation des performances en utilisant des jeux de données de validation et la persistance de modèle basée sur des points de contrôle (checkpoints).

Tensorspace est un framework de visualisation 3D basé sur WebGL et un moteur de rendu conçu pour mapper les architectures de modèles d'apprentissage profond et les données de tenseurs dans des espaces tridimensionnels interactifs. Il sert de visualiseur d'architecture de réseau neuronal et d'inspecteur de modèle, permettant aux utilisateurs de rendre les topologies de modèle et d'analyser le flux de données au sein d'un navigateur web. Le projet se distingue par sa capacité à convertir des modèles Keras et TensorFlow pré-entraînés en représentations spatiales. Il s'intègre à TensorFlow.js pour exécuter l'inférence dans le navigateur, permettant la visualisation en temps réel des activations intermédiaires, des passes avant et des données de tenseurs internes. Le framework fournit des primitives de rendu étendues pour les couches 1D et 2D, y compris les convolutions, le pooling, les couches denses et diverses opérations de fusion de tenseurs. Il couvre une large surface de capacités, notamment le mappage de topologie de modèle, les animations d'état de couche et la visualisation des sorties de modèles génératifs et des grilles de détection d'objets. Le système inclut des outils pour la conversion de format de modèle afin d'importer des architectures existantes et un panneau de suivi des performances pour surveiller la santé du système et les fréquences d'images pendant le rendu.

Ce projet est une collection de ressources éducatives et d'implémentations de référence pour le développement de réseaux de neurones utilisant TensorFlow. Il sert de cours d'apprentissage complet, de programme d'apprentissage automatique et de guide d'implémentation pratique pour construire des architectures de deep learning. La base de code fournit des supports pédagogiques et des exemples couvrant un large éventail de types de modèles, y compris les réseaux de neurones convolutifs pour la classification d'images, les réseaux récurrents et les cellules LSTM pour les données séquentielles, et les auto-encodeurs pour la modélisation générative. Il inclut également des implémentations pour des agents d'apprentissage par renforcement profond et des techniques de transfert d'apprentissage pour adapter des modèles pré-entraînés à de nouvelles tâches. Le projet couvre le cycle de vie complet du développement, y compris le prétraitement des données, la définition du graphe de calcul et l'optimisation des poids. Il fournit des utilitaires pour l'évaluation des modèles et l'optimisation de l'entraînement, tels que le dropout et la régularisation, ainsi que des outils pour visualiser l'architecture du réseau et surveiller les métriques d'entraînement.

Il s'agit d'une bibliothèque d'architectures de modèles génératifs construites en utilisant le framework TensorFlow. Elle fournit des implémentations pour produire des données synthétiques et des images réalistes, se concentrant spécifiquement sur les Variational Autoencoders (VAE) et diverses variantes de Generative Adversarial Networks (GAN). La collection inclut des architectures GAN spécifiques telles que WGAN-GP, LSGAN, InfoGAN et EBGAN. Elle propose également des Variational Autoencoders conçus pour apprendre des représentations latentes et synthétiser de nouveaux échantillons à partir de distributions apprises. Le projet couvre des pipelines de traitement d'image pour normaliser et recadrer les données, ainsi qu'une boîte à outils de couches de réseaux de neurones incluant des convolutions 2D et des transformations linéaires. Il fournit des capacités pour la manipulation de l'espace latent, l'injection de vecteurs de conditionnement et la stabilisation de modèles via des fonctions de perte spécifiques.