Awesome GitHub RepositoriesTensor Slicing

Torch7 is a scientific computing environment and tensor computation library used for deep learning research and numerical analysis. It functions as a Lua-based framework for training neural networks and learning agents, providing a toolkit for implementing architectures and training through reinforcement learning algorithms. The project is distinguished by its tight integration with C, utilizing a binding layer to map high-level scripting to low-level C structures for direct memory access. It supports hardware-accelerated computation by offloading linear algebra and convolution operations to

ArrayFire este un framework de calcul hardware-agnostic și un motor de tensori compilat JIT, conceput pentru calcul numeric de înaltă performanță. Acesta servește ca bibliotecă de calcul numeric GPU și toolkit de procesare paralelă a semnalelor care abstractizează backend-urile hardware, permițând aceluiași cod să ruleze pe diverse arhitecturi GPU și CPU. Proiectul se distinge printr-un motor JIT care utilizează compilarea expresiilor pentru a fuziona operațiunile și a minimiza consumul de memorie. Acesta folosește un graf de execuție amânată pentru a optimiza lanțurile de calcul și oferă primitive de interoperabilitate pentru a partaja date și contexte de execuție cu platforme de calcul externe precum CUDA și OpenCL. Biblioteca acoperă o gamă largă de capabilități, inclusiv algebră liniară paralelă, procesarea digitală a semnalelor și viziune computerizată accelerată. Oferă instrumente pentru implementarea învățării automate, simularea modelării financiare și rezolvarea ecuațiilor diferențiale parțiale pentru simulări de sisteme fizice. Sistemul său de gestionare a tensorilor se ocupă de alocarea array-urilor multidimensionale, felierea (slicing) și transferurile de date gazdă-dispozitiv.

gpu.cpp este o bibliotecă C++ ușoară pentru executarea calculului GPU general-purpose de nivel scăzut pe diferite furnizori de hardware și sisteme de operare. Acesta funcționează ca un wrapper GPU portabil, orchestrator de kernel și sistem de gestionare a tensorilor folosind specificația WebGPU pentru a abstractiza inițializarea dispozitivului, transferurile de buffer și dispatching-ul compute shader-elor. Biblioteca oferă un framework pentru definirea compute kernel-urilor din codul shader și gestionarea dispatch-ului și sincronizării lor asincrone. Permite executarea compute shader-elor multi-platformă și orchestrarea sarcinilor GPU printr-o specificație standardizată a procesorului grafic. Sistemul gestionează întregul ciclu de viață al memoriei GPU, incluzând alocarea tensorilor multidimensionali, mișcarea bidirecțională a datelor între gazdă și dispozitiv prin staging buffers și urmărirea resurselor pentru a preveni scurgerile de memorie. De asemenea, suportă slicing-ul tensorilor pentru crearea de vizualizări non-owning ale segmentelor de memorie și include utilitare pentru logarea mesajelor de sistem și filtrarea severității.

Safetensors is a secure tensor serialization format and library designed for storing and distributing model weights. Its primary purpose is to provide a safe file format for machine learning tensors that prevents the execution of arbitrary or malicious code during the deserialization process. The project is distinguished by its use of zero-copy memory mapping, which reads data from disk directly into memory to minimize overhead. It enables cross-framework compatibility, allowing tensor data to be serialized and deserialized across different machine learning libraries. The system covers high-