Awesome GitHub RepositoriesGreedy Decoding Strategies

This project is an educational platform and research toolkit designed to teach deep learning through a combination of mathematical theory, visual diagrams, and executable code. It provides a comprehensive environment for building, training, and evaluating neural networks, grounding complex concepts in interactive computational notebooks that allow for hands-on experimentation. The framework distinguishes itself by interleaving theoretical foundations—including linear algebra, calculus, and probability—with practical implementations across multiple industry-standard libraries. It supports flex

Este es un framework de encoder-decoder basado en TensorFlow y una librería de modelos utilizada para mapear secuencias de entrada a secuencias de salida. Funciona como un mapeador de secuencias de deep learning diseñado para transformar datos secuenciales de un dominio a otro. La librería proporciona herramientas para implementar modelos de secuencia a secuencia en múltiples dominios, incluyendo traducción automática neuronal, resumen automático de texto y generación de subtítulos para imágenes. El framework incorpora redes neuronales recurrentes y utiliza contextualización basada en atención para ponderar las secuencias de entrada. Admite múltiples estrategias de decodificación, incluyendo beam search y decodificación voraz, mientras ejecuta operaciones matemáticas mediante el grafo de cómputo de TensorFlow.

Este proyecto es un generador de poesía mediante deep learning diseñado para crear pareados tradicionales chinos. Utiliza una arquitectura de red neuronal secuencia a secuencia para mapear secuencias de texto de entrada a secuencias de salida coincidentes, funcionando como un modelo de generación de texto y un servicio web de inferencia. El sistema cuenta con un mecanismo de ranking de texto neuronal que evalúa las salidas candidatas basándose en la consistencia de la longitud y los patrones de caracteres para asegurar la alineación estructural. También incluye un proceso de filtrado de contenido que escanea el texto generado contra listas de palabras prohibidas para eliminar material sensible o inapropiado. La superficie de capacidades más amplia incluye un pipeline de tokenización de texto para la preparación de datos y una interfaz RESTful para servir predicciones del modelo mediante JSON. El proyecto también cubre el ciclo de vida del machine learning, abarcando la optimización de pesos del modelo, entrenamiento y evaluación del rendimiento contra datasets de validación.

Neuraltalk is an automated image captioning system that generates natural language descriptions for images. It utilizes a deep learning model that integrates a pretrained convolutional neural network for visual feature extraction with a recurrent neural network decoder to produce text sequences. The project provides a full workflow for training and evaluating captioning models, including weight optimization via backpropagation and gradient descent. It includes tools for measuring caption accuracy by comparing generated text against reference descriptions. The system covers data preprocessing

CTranslate2 is a C++ inference engine and runtime for Transformer models, designed to execute models on both CPU and GPU with optimizations for speed and memory efficiency. It functions as a model format converter, quantization tool, and REST API server, enabling deployment of neural machine translation, automatic speech recognition, and text generation models. The engine distinguishes itself through a suite of runtime optimizations including layer fusion, weight-matrix quantization, batch-by-length grouping, and a caching allocator that reuses GPU memory. It supports tensor-parallel model di

picoGPT is a lightweight, low-level runtime environment and inference engine designed to load pre-trained checkpoints and execute generative transformer model inference. It provides a minimal implementation of the generative pre-trained transformer architecture to facilitate local language model execution. The project includes a C++ machine learning library for converting model parameters and executing greedy token generation without heavy external dependencies. It handles remote asset synchronization by downloading pre-trained weights, hyperparameters, and vocabulary files from remote server