Awesome GitHub RepositoriesComputational Frameworks

Llama is a computational framework and runtime environment designed for executing transformer-based neural networks locally. It functions as a generative AI inference engine, enabling the processing of input sequences through pre-trained model weights to produce text completions and structured data outputs directly on your own hardware. The system distinguishes itself through specialized memory and computation management techniques, including memory-mapped weight loading and quantization-aware inference, which allow for efficient execution on standard consumer hardware. It utilizes a stateles

Detectron2 is a PyTorch computer vision framework and visual recognition platform designed for training and deploying models for object detection, image segmentation, and visual recognition. It provides a research-oriented environment for training complex vision models with multi-GPU acceleration. The project includes a specialized object detection library for identifying and locating multiple objects via bounding boxes, as well as an image segmentation toolkit for creating pixel-level masks through instance, semantic, and panoptic segmentation. Additionally, it features a human pose estimati

This project is a structured educational resource and training platform designed for mastering deep learning development. It provides a comprehensive curriculum focused on building, evaluating, and refining predictive models through hands-on coding exercises and standard industry workflows. The curriculum emphasizes practical implementation, guiding users through the construction of neural network architectures and the application of transfer learning to adapt pretrained models for custom tasks. It includes methodologies for tracking and comparing model experiment results, allowing for the sy

This project is an open source deep learning textbook and educational resource. It provides a structured curriculum of theory and practical examples designed for mastering the training of regression, classification, and generative models using the TensorFlow framework. The repository functions as a machine learning code collection, utilizing interactive notebooks and source code to demonstrate neural network implementation and tensor operations. It covers the development of deep learning models and the study of reinforcement learning. The material employs a case-study driven pedagogy, combin

ConvNetJS is a JavaScript deep learning library and neural network training engine designed for client-side machine learning. It functions as a framework for building, training, and running convolutional neural networks directly within a web browser without the need for a backend server. The library specializes in image recognition and pattern analysis using convolutional and pooling layers. It enables the creation of models for classification and regression tasks, as well as the development of reinforcement learning agents that optimize behavior through trial and error in simulated environme

Sonnet is a modular machine learning framework and TensorFlow library used for building, training, and managing deep learning models. It functions as a system for composing neural networks from reusable modules and layers that encapsulate their own parameters and internal states. The project provides specialized tools for distributed model training, enabling the synchronization of gradients across multiple hardware devices. It also serves as a model state management system, allowing for the persistence of neural network weights and the export of portable models that separate the computation g

torchdiffeq este o bibliotecă PyTorch pentru rezolvarea ecuațiilor diferențiale ordinare (ODE), concepută pentru a rezolva probleme cu valori inițiale și pentru a construi framework-uri de tip neural ODE. Oferă un integrator ODE diferențiabil care permite modelelor de deep learning să simuleze profunzimea continuă prin integrarea funcțiilor dinamice în timp. Biblioteca dispune de un calculator de gradient bazat pe metoda adjunctă pentru backpropagation eficient din punct de vedere al memoriei. Prin rezolvarea unui sistem adjunct augmentat înapoi în timp, calculează gradienții parametrilor fără a stoca fiecare stare intermediară a solver-ului. Proiectul acoperă integrarea numerică cu solver-e adaptive și cu pas fix, încorporând controlul erorilor și interpolarea polinomială a stării. De asemenea, suportă gestionarea diferențiabilă a evenimentelor pentru a termina solver-ele atunci când funcții scalare specifice sunt declanșate și pentru a propaga gradienții prin timpul evenimentului. Framework-ul este utilizat pentru aplicații precum fluxuri de normalizare continuă și transformarea distribuțiilor de probabilitate prin ecuații diferențiale ordinare învățate în timp continuu.

Acest proiect este o colecție de Jupyter Notebooks educaționale care oferă tutoriale despre construcția rețelelor neuronale și operații cu tensori folosind framework-ul TensorFlow. Servește drept depozit educațional de machine learning și ghid de implementare pentru studenții pasionați de deep learning. Suita se concentrează pe arhitecturi avansate specifice, inclusiv rețele convoluționale pentru clasificarea imaginilor, rețele reziduale cu conexiuni de tip skip pentru stabilitatea antrenamentului și autoencodere variaționale pentru modelare generativă și sinteza datelor. Include, de asemenea, ghiduri pentru construirea de autoencodere de tip denoising și deep pentru extragerea caracteristicilor și reducerea dimensionalității. Depozitul acoperă o arie mai largă de modelare predictivă, cu implementări de regresie liniară, polinomială și logistică pentru predicția valorilor continue și a rezultatelor binare. Conținutul este organizat în notebook-uri interactive care permit utilizatorilor să execute operații matematice și să modifice experimentele de machine learning.

Cactus este un motor de inferență AI on-device conceput pentru executarea modelelor de limbaj mari (LLM), a modelelor de viziune și a sistemelor de tip speech-to-text pe hardware mobil și wearable. Oferă un graf de calcul tensorial programabil pentru definirea secvențelor de operații matriceale și funcții de activare, alături de un framework local de tip retrieval augmented generation (RAG) care fundamentează răspunsurile modelului folosind fișiere text locale. Proiectul include un SDK multiplatformă cu binding-uri de limbaj pentru integrarea capacităților AI în aplicații mobile și un sistem de conversie a modelelor care transformă formatele externe pentru execuție locală optimizată. Utilizează un sistem de rutare hibrid pentru a redirecționa sarcinile de lucru între execuția on-device și furnizorii cloud, în funcție de capacitatea hardware-ului. Motorul acoperă o suprafață largă de capabilități, inclusiv procesarea audio on-device pentru detectarea activității vocale și transcriere, generarea de vectori embedding pentru căutarea prin similaritate și integrarea de instrumente pentru parsarea output-urilor modelului în apeluri de funcții externe. Aceste procese sunt susținute de nuclee native optimizate, reglate pentru performanță cu latență scăzută pe hardware mobil.

Caffe este un framework de deep learning de înaltă performanță și o bibliotecă de rețele neuronale convoluționale concepută pentru antrenarea și implementarea rețelelor neuronale. Acesta funcționează ca un motor de machine learning accelerat prin GPU, cu un nucleu implementat în C++ pentru a permite operațiuni cu tensori de mare capacitate. Proiectul utilizează un sistem de configurare declarativ unde arhitecturile modelelor și hiperparametrii sunt definiți în fișiere text externe, separând designul rețelei de codul de execuție. Include un sistem de serializare a modelelor pentru a exporta ponderile și topologiile antrenate în fișiere binare pentru o implementare eficientă în diferite medii hardware. Framework-ul acoperă o gamă largă de capabilități, inclusiv designul arhitecturii rețelelor neuronale, antrenarea modelelor supervizate cu optimizare bazată pe gradient și fluxuri de lucru de clasificare a imaginilor. Oferă instrumente pentru preprocesarea seturilor de date, extragerea caracteristicilor neuronale și ajustarea fină (fine-tuning) a modelelor pre-antrenate. Nucleul C++ este accesibil printr-o interfață multi-limbaj cu binding-uri oficiale pentru Python și MATLAB.

oneDNN este o bibliotecă pentru accelerarea deep learning-ului care oferă blocuri de construcție optimizate pentru antrenarea și inferența rețelelor neuronale. Aceasta gestionează calculul tensorial pe hardware CPU și GPU, permițând execuția de primitive de înaltă performanță pentru antrenarea modelelor și optimizarea inferenței rețelelor neuronale. Proiectul se distinge prin optimizarea kernel-ului specifică hardware-ului și utilizarea compilării „just-in-time” pentru a viza seturi de instrucțiuni specifice ale procesorului. Suportă execuția rețelelor neuronale cuantizate folosind cuantizarea statică și dinamică pentru a reduce utilizarea memoriei și a crește throughput-ul. Biblioteca acoperă o gamă largă de capabilități, inclusiv primitive de deep learning precum convoluții, înmulțirea matricelor și execuția rețelelor neuronale recurente. Implementează optimizări avansate de performanță, inclusiv fuziunea operațiunilor, optimizarea grafului de calcul și gestionarea formatului memoriei. Integrarea este oferită printr-un ABI C stabil și un wrapper C++, cu suport pentru SYCL, OpenCL și biblioteci externe de algebră liniară. Sistemul include instrumente de observabilitate pentru profilarea performanței hardware, benchmarking-ul primitivelor și log-uri detaliate de execuție.

PyTorchZeroToAll este o resursă educațională și o colecție de tutoriale axate pe deep learning și framework-ul PyTorch. Oferă un parcurs de învățare structurat pentru implementarea arhitecturilor de rețele neuronale, variind de la sintaxa de bază a limbajului și fundamente, până la design-ul complex de modele. Proiectul servește ca ghid de implementare pentru construirea diverselor tipuri de rețele, inclusiv rețele liniare, logistice, convoluționale și recurente. Acoperă în mod specific fluxul de lucru pentru modelarea secvențelor prin utilizarea mecanismelor de atenție și a rețelelor la nivel de caracter. Resursa acoperă, de asemenea, pregătirea datelor pentru machine learning, inclusiv utilizarea încărcătoarelor de seturi de date personalizate, instrumente de procesare a textului și traducerea fișierelor sursă brute în tensori pentru pipeline-urile de antrenare.

This is a TensorFlow-based framework for implementing and training capsule networks designed for image classification. It utilizes a tensor graph neural network model to build architectures that preserve spatial relationships and pose parameters through vector-based neuron groupings. The project implements a dynamic routing mechanism to establish hierarchical relationships between input features and output capsules. To handle complex architectures, it includes a distributed deep learning toolset that enables training across multiple graphics processing units. The framework covers the full ma

Taco is a sparse tensor algebra compiler that translates high-level tensor index expressions into optimized machine code. It functions as a numerical code generator, producing specialized C kernels designed to execute complex multidimensional array operations efficiently on both CPU and GPU hardware. The project distinguishes itself by allowing users to define custom tensor storage layouts by composing dimension-level formats, such as dense or compressed structures, to match the specific sparsity patterns of their datasets. By analyzing the mathematical structure of tensor operations at compi

This project provides a clean implementation of the latent diffusion model architecture using the PyTorch framework. It functions as a generative machine learning pipeline designed to synthesize images from text prompts by loading pre-trained model weights into a modular neural network structure. The implementation focuses on the mechanics of image generation, utilizing a tensor-based computational graph to execute the complex linear algebra required for inference. It incorporates transformer-based text encoding to map natural language into vector embeddings, which are then integrated into th