Awesome GitHub RepositoriesHigh-Performance Tensor Libraries

Tinygrad is a deep learning framework and tensor computation engine designed for building and training neural networks. It functions as a hardware abstraction layer that manages device memory, command queues, and kernel dispatching across heterogeneous computing architectures. By utilizing a lazy-evaluation approach, the framework constructs computational graphs that defer execution until data is explicitly required, allowing it to process only the necessary operations for a given result. The project distinguishes itself through a just-in-time compilation layer that transforms abstract comput

This project is a deep learning framework designed for constructing, training, and deploying neural networks across diverse hardware environments. It functions as a high-performance tensor computation library that provides both imperative and symbolic programming interfaces, allowing developers to balance flexible, step-by-step model building with the efficiency of compiled computation graphs. The framework distinguishes itself through a hybrid execution engine that integrates declarative graph compilation with imperative runtime logic. It supports scalable, distributed training across multip

Deeplearning4j is a JVM-based deep learning framework and tensor computing library. It provides a computational graph engine for defining and executing deep learning workflows and mathematical operations within the Java Virtual Machine. The project includes a dedicated importer for loading and running pretrained models exported from Keras, TensorFlow, and ONNX formats. Its tensor computing capabilities are driven by a modular native C++ math core to execute high-performance linear algebra operations. The framework covers neural network training, deep learning model inference, and the constru

GGML is a machine learning tensor library and neural network engine written in C. It functions as a compute-focused runtime designed to execute transformer-based models and perform complex mathematical operations on multi-dimensional arrays directly on local consumer hardware. The library distinguishes itself by enabling local inference for large language models and edge machine learning deployment without reliance on external cloud infrastructure. It achieves this through a tensor-based computation graph that organizes operations for efficient execution and memory management, alongside stati

llama-rs es un motor de inferencia de modelos de lenguaje de gran tamaño (LLM) local implementado en Rust. Permite la ejecución de cálculos de modelos en hardware local para generar respuestas de texto a partir de prompts de usuario. El proyecto utiliza operaciones de tensores basadas en Rust y mapeo de modelos en memoria directa para manejar álgebra lineal de alto rendimiento y carga eficiente de pesos. Incorpora cuantización de pesos para reducir la huella de memoria de los modelos convirtiendo pesos de alta precisión en formatos más pequeños. El sistema incluye una interfaz de línea de comandos para sesiones de chat interactivas y prompts únicos, junto con persistencia de sesión respaldada por archivos para guardar y restaurar historiales de conversación. También proporciona utilidades para recuperar configuraciones de tokenizadores desde hubs remotos y herramientas para calcular puntuaciones de perplejidad para evaluar el rendimiento del modelo.

Flashlight es una biblioteca de aprendizaje automático y de tensores independiente en C++ utilizada para construir y entrenar redes neuronales. Funciona como un framework integral de redes neuronales y motor de diferenciación automática, proporcionando las herramientas para construir grafos de computación y calcular gradientes mediante retropropagación. El proyecto sirve como framework de entrenamiento distribuido, utilizando operaciones all-reduce para sincronizar gradientes y parámetros a través de múltiples nodos de cómputo y dispositivos. Se distingue por una integración profunda de manipulación de tensores de alto rendimiento, interoperabilidad nativa de memoria de dispositivo y un sistema para sincronizar pesos a través de trabajadores distribuidos para acelerar el entrenamiento de modelos a gran escala. El framework cubre una amplia gama de capacidades de aprendizaje profundo, incluyendo composición modular de capas para diseñar arquitecturas complejas como bloques residuales y celdas recurrentes. Proporciona utilidades extensas de gestión de datos para ingesta y prefetching, junto con sistemas de serialización para persistir estados de modelos. Además, incluye una suite de herramientas de monitorización y observabilidad para rastrear métricas de entrenamiento y medir errores de secuencia. La biblioteca está implementada en C++.

This project is a Rust interface for the PyTorch C++ library, serving as a deep learning framework and tensor computing library. It functions as a C++ API wrapper that enables the manipulation of multi-dimensional arrays and the execution of neural network architectures across CPU and GPU hardware accelerators. The library provides a TorchScript inference engine to load and execute just-in-time compiled models. It also supports Rust and Python interoperability, allowing for the creation of Python extensions that share tensor data through a common interface. The system covers deep learning mo

Caffe es un framework de deep learning de alto rendimiento y una librería de redes neuronales convolucionales diseñada para entrenar y desplegar redes neuronales. Funciona como un motor de machine learning acelerado por GPU con un núcleo implementado en C++ para permitir operaciones de tensores de alto rendimiento. El proyecto utiliza un sistema de configuración declarativa donde las arquitecturas de modelos y los hiperparámetros se definen en archivos de texto externos, separando el diseño de la red del código de ejecución. Incluye un sistema de serialización de modelos para exportar pesos y topologías entrenadas a archivos binarios para un despliegue eficiente en diferentes entornos de hardware. El framework cubre una amplia gama de capacidades, incluyendo el diseño de arquitectura de redes neuronales, entrenamiento de modelos supervisados con optimización basada en gradientes y flujos de trabajo de clasificación de imágenes. Proporciona herramientas para el preprocesamiento de datasets, extracción de características neuronales y ajuste fino de modelos preentrenados. El núcleo en C++ es accesible a través de una interfaz multilenguaje con bindings oficiales para Python y MATLAB.

TensorFlow-World is a collection of tutorials, implementation guides, and model templates for building and training machine learning models using the TensorFlow framework. It serves as an educational resource for designing deep learning architectures and implementing predictive models. The project provides ready-to-use examples for constructing neural network architectures and linear classifiers. It includes guides on performing tensor operations, automatic differentiation, and gradient descent optimization. The materials cover a range of machine learning capabilities, including the use of h

Este repositorio sirve como recurso educativo estructurado para aprender a construir, entrenar y desplegar redes neuronales utilizando el framework PyTorch. Proporciona una colección de ejemplos de código prácticos y tutoriales diseñados para guiar a los profesionales a través de la implementación de modelos de deep learning. El proyecto cubre una amplia gama de dominios de machine learning, incluyendo visión artificial, procesamiento de lenguaje natural, modelado generativo y aprendizaje por refuerzo. Al utilizar componentes modulares y computación de gradiente automatizada, los materiales demuestran cómo construir arquitecturas complejas y optimizar los procesos de entrenamiento mediante algoritmos especializados y técnicas de aumento de datos. El contenido está organizado en una serie de ejercicios prácticos que abordan el ciclo de vida completo del desarrollo de modelos. Esto incluye la configuración de bucles de entrenamiento, la gestión de parámetros del modelo y la integración de modelos entrenados en entornos de producción.