Awesome GitHub RepositoriesImplicit Quantization Code Generation

Il s'agit d'une bibliothèque PyTorch pour implémenter la quantification vectorielle et scalaire afin de créer des représentations latentes discrètes dans les réseaux de neurones. Elle fournit une suite de modules et d'utilitaires pour convertir des vecteurs continus en codes discrets, prenant en charge des architectures telles que les autoencodeurs variationnels quantifiés vectoriellement. La bibliothèque propose des mécanismes spécialisés pour maintenir la santé et l'efficacité du codebook, incluant la réinitialisation aléatoire des vecteurs pour prévenir l'effondrement du codebook et l'initialisation des centroïdes k-means pour accélérer la convergence. Elle prend en charge diverses stratégies de quantification telles que la quantification résiduelle récursive pour une résolution plus élevée, la quantification parallèle multi-têtes pour la division des sous-espaces de caractéristiques et la quantification scalaire finie pour créer des codes hypercubes. La boîte à outils inclut un module de quantification différentiable qui utilise des estimateurs straight-through et des astuces de rotation pour permettre la rétropropagation à travers des étapes de quantification non différentiables. Des capacités supplémentaires couvrent la correspondance de distance angulaire via la similarité cosinus, la régularisation orthogonale pour la translation de caractéristiques et le désenchevêtrement de l'espace latent via des codebooks scalaires apprenables.