1 dépôt
Awesome GitHub RepositoriesGraph Path Discovery Training
Training objectives that teach models to navigate graph structures by predicting sequences of nodes.
Distinct from Graph-Based Training: Specifically targets the discovery of paths in a graph, distinct from general graph-based training execution.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Graph Path Discovery Training. Refine with filters or upvote what's useful.
Awesome Graph Path Discovery Training GitHub Repositories
Trouvez les meilleurs dépôts grâce à l'IA.Nous recherchons les dépôts les plus pertinents grâce à l'IA.
- lucidrains/x-transformers
lucidrains/x-transformers
5,912Voir sur GitHubx-transformers est une bibliothèque PyTorch et un toolkit de recherche pour construire des architectures transformer. Il fournit un framework modulaire pour implémenter la recherche transformer expérimentale, incluant une suite de mécanismes d'attention avancés, des outils de modélisation de séquences longues et un framework pour les vision transformers. Le projet se distingue par son accent sur les composants haute performance et économes en mémoire, tels que Flash Attention avec des noyaux tuilés et l'attention multi-requêtes. Il implémente également des méthodes spécialisées pour étendre les fenêtres de contexte, incluant la récurrence de séquence et les plongements positionnels rotatifs. La bibliothèque couvre un large éventail de capacités architecturales, incluant divers schémas de normalisation pour stabiliser l'entraînement, des réseaux feedforward à portes et des topologies de couches personnalisées comme les réseaux Macaron. Elle prend en charge les constructions d'encodeur et de décodeur, fournissant des outils pour la génération de séquence autorégressive et les tâches vision-langage comme la légende d'image.
Trains models to navigate graph structures by predicting sequences of nodes to find paths.
Python
