srush/Tensor-Puzzles
Tensor Puzzles
Tensor-Puzzles este o suită de exerciții educaționale și un tutorial de calcul numeric conceput pentru stăpânirea operațiunilor cu tensori și a regulilor de broadcasting în PyTorch. Funcționează ca un antrenor de implementare unde utilizatorii exersează tranziția formulelor matematice în cod prin reimplementarea primitivelor matematice de deep learning.
Proiectul utilizează o suită de exerciții bazată pe constrângeri care restricționează apelurile de bibliotecă disponibile pentru a forța utilizarea unor primitive specifice de tensori. Aceste provocări sunt structurate ca puzzle-uri secvențiale care necesită ca utilizatorii să rezolve sarcini folosind un model de implementare modular, unde funcțiile complexe sunt descompuse în operațiuni dependente mai simple.
Acuratețea este asigurată printr-un mediu de execuție integrat în PyTorch care utilizează validarea implementării de referință și verificări de toleranță numerică. Sistemul verifică dacă output-urile definite de utilizator corespund rezultatelor de referință și respectă regulile standard de broadcasting pentru array-uri multidimensionale.
Features
- Tensor Broadcasting - Provides a mechanism for validating that multi-dimensional arrays align according to standard tensor broadcasting rules.
- Runtime Evaluation Environments - Provides an execution environment that runs user code within a live PyTorch session for validation.
- PyTorch Tensor Operations - Integrates with PyTorch to execute tensor operations and validate runtime shapes and types.
- PyTorch Code Exercises - Offers practical exercises and constrained challenges for learning multi-dimensional array manipulation in PyTorch.
- Machine Learning Mathematics - Teaches the fundamental mathematical operations and logic underlying neural network layers.
- Automated Exercise Suites - Provides a series of coding tasks bundled with automated verification for tensor operation implementation.
- API Call Restrictions - Restricts available library calls to force the use of specific tensor primitives during exercises.
- Reference Implementation Validation - Evaluates user submissions against a hidden gold-standard implementation to ensure mathematical equivalence.
- Implementation Trainers - Trains users to transition from mathematical formulas to efficient PyTorch code through verified exercises.
- Progressive Learning Paths - Structures tensor manipulation tasks as a series of progressive puzzles where solutions build on previous concepts.
- Programming Course Materials - Offers structured sets of interactive lessons for reimplementing deep learning mathematical primitives.
- Precision-Tolerant Comparisons - Uses epsilon-based precision-tolerant comparisons to handle floating point rounding errors in tensor results.
- Interactive Tutorials - Serves as a guided set of challenges for understanding tensor broadcasting and linear algebra fundamentals.
- Runtime Shape Verification - Provides runtime verification to ensure tensor dimensions adhere to broadcasting alignment rules.
- Numerical Tolerance Checks - Implements a test runner that verifies tensor output correctness using numerical tolerance epsilon checks.
