Awesome GitHub RepositoriesBatch Input Processing

Pkl is a configuration-as-code language used to define, validate, and generate structured configuration files. It functions as a type-safe configuration generator that enforces data integrity through a strongly-typed schema, ensuring configuration values meet defined constraints and types during evaluation. The project distinguishes itself by acting as both a configuration file generator and a binding generator. It transforms high-level programmable definitions into static formats such as JSON, YAML, or XML, and produces language-specific source code to synchronize settings and provide type s

jc is a tool that transforms plain-text results from command-line utilities, system tools, log formats, and text tables into structured JSON data. It functions as a structured data transformer capable of converting various file formats, including CSV, INI, XML, and YAML, into JSON representations for programmatic use. The project includes a collection of specific parsers for Unix commands and system tools such as df, blkid, and various package managers. It also features specialized converters for web server logs, Common Log Format, and Common Event Format strings. The tool covers broad capab

Kreuzberg is a document extraction engine that converts PDFs, Office files, images, and over 90 other formats into clean, structured text and metadata. It is built around a compiled Rust core that can be used as a native library, a command-line tool, a REST API server, or a WebAssembly module for browser-based processing. The system is designed to run entirely on self-hosted infrastructure, with no data leaving the user's environment. What distinguishes Kreuzberg is its breadth of integration surfaces and its pipeline architecture. It exposes extraction capabilities through native bindings fo

Depth-Anything is a monocular depth estimation foundation model that produces dense per-pixel depth maps from a single RGB image. It is built on a DINOv2 Vision Transformer encoder backbone and trained on 62 million unlabeled images using a teacher-student pseudo-labeling framework, enabling robust generalization across diverse scenes without task-specific training. The model outputs both relative depth maps, which capture the ordering of scene points, and metric depth maps with real-world units after fine-tuning on datasets like NYUv2 or KITTI. The project distinguishes itself through its ab

Stanza is a Python natural language processing library designed for tokenization, lemmatization, and dependency parsing across many human languages using neural models. It provides a neural processing pipeline that converts raw text into structured linguistic data objects, alongside a specialized analyzer for extracting medical insights from clinical and biomedical language. The project includes a wrapper that connects Python scripts to Java-based natural language processing tools and remote annotation servers. This enables a bridge for extracting linguistic annotations and analysis data from

ailab is a deep learning tool designed to upscale anime-style images, increasing their resolution while preserving fine details. It is built around a cascade U-Net architecture, a multi-stage neural network model that refines image quality through successive stages, and uses PyTorch for inference. The tool specializes in enhancing anime and cartoon-style artwork, applying super-resolution techniques to boost pixel dimensions without sacrificing visual fidelity. It processes images through a pipeline that includes tensor preprocessing, model inference, and post-processing pixel reconstruction,

Valhalla is an open-source routing engine that calculates optimal paths and travel times using OpenStreetMap data. It is built around a tiled routing graph framework, allowing map data to be organized into small geographic tiles for efficient regional updates and offline routing capability. The project distinguishes itself through a multimodal routing server that combines automobile, pedestrian, bicycle, and public transit modes into single journeys. It includes a GPS trace matching engine to align noisy coordinates to the most probable road network paths and an isochrone and matrix generator

Trafilatura is a Python library and command-line tool for extracting clean, structured text and metadata from web pages. It downloads HTML content, identifies the main body of text, and strips away navigation, ads, and other boilerplate, returning the core article content along with fields like title, author, date, and URL. The tool can also extract user comments and test whether a page contains extractable text, making it a general-purpose web text extraction library. What distinguishes Trafilatura from simpler extractors is its configurable extraction pipeline, which offers high-speed, high

Este proyecto es un scraper especializado de la API de TikTok y extractor de datos. Funciona como un web scraper basado en proxy diseñado para recopilar metadatos de usuarios, publicaciones de video y feeds de tendencias, proporcionando además un pipeline de datos mediante webhooks para enviar la información extraída a URLs externas a través de peticiones HTTP. La herramienta incluye un descargador de videos sin marca de agua que guarda contenido en alta definición en almacenamiento local. Emplea firma criptográfica de peticiones para la autenticación del servidor y utiliza autenticación mediante cookies de sesión combinada con rotación de proxies para gestionar el tráfico de red y evitar límites de tasa (rate limits). Las capacidades cubren la extracción masiva de contenido mediante pipelines de procesamiento por lotes y la recuperación de metadatos de perfiles, hashtags y pistas de música. Los datos extraídos se exportan a formatos JSON o CSV estructurados, y se utiliza un seguimiento de estado local para registrar el historial de descargas y evitar peticiones duplicadas.

Text Embeddings Inference es un servidor de inferencia de alto rendimiento diseñado para alojar modelos de embedding de texto y clasificación de secuencias como endpoints de API escalables. Proporciona una API de embedding vectorial para convertir texto en representaciones densas y un servidor de reranking (re-clasificación) cross-encoder para puntuar la relevancia de secuencias de documentos frente a una consulta. El proyecto cuenta con un motor de inferencia acelerado por GPU que utiliza procesamiento por lotes dinámico y kernels especializados para maximizar el rendimiento. Ofrece una interfaz binaria de alto rendimiento a través de gRPC como alternativa al HTTP estándar para reducir la latencia de red y la sobrecarga de serialización. El sistema cubre una amplia gama de capacidades, incluyendo el ranking de similitud de documentos, el reranking de texto multilingüe y la clasificación de secuencias para predecir categorías o sentimientos. Admite diversos entornos de despliegue, desde contenedores de auto-escalado serverless hasta instalaciones aisladas (air-gapped). La aceleración por hardware está disponible para GPUs NVIDIA, GPUs AMD y Apple Metal.

Este proyecto es un framework de servicio de modelos de PyTorch diseñado para desplegar y escalar modelos de machine learning en producción a través de endpoints de red escalables. Funciona como un servidor de inferencia de alto rendimiento, optimizador y gestor del ciclo de vida del modelo que maneja la carga de modelos, el procesamiento por lotes (batching) de solicitudes y la aceleración por hardware. El sistema se distingue por sus capacidades avanzadas de orquestación y optimización, como el encadenamiento de múltiples modelos en flujos de trabajo secuenciales mediante grafos de ejecución y el uso de procesamiento por lotes dinámico para mejorar el rendimiento y la latencia. Proporciona soporte especializado para IA generativa y modelos de lenguaje de gran tamaño (LLM) mediante procesamiento por lotes continuo y paralelismo de tensores. Las áreas de capacidad incluyen la gestión de recursos de GPU en hardware diverso como NVIDIA, AMD y Apple Silicon, así como una gestión integral del ciclo de vida del modelo para registro, versionado y escalado de trabajadores. También integra herramientas de observabilidad para rastrear la salud del sistema y el rendimiento del modelo mediante métricas compatibles con Prometheus. El servidor se gestiona a través de una interfaz de línea de comandos utilizada para el control del ciclo de vida y la configuración de parámetros de tiempo de ejecución.

CTranslate2 is a C++ inference engine and runtime for Transformer models, designed to execute models on both CPU and GPU with optimizations for speed and memory efficiency. It functions as a model format converter, quantization tool, and REST API server, enabling deployment of neural machine translation, automatic speech recognition, and text generation models. The engine distinguishes itself through a suite of runtime optimizations including layer fusion, weight-matrix quantization, batch-by-length grouping, and a caching allocator that reuses GPU memory. It supports tensor-parallel model di

GAM is a command-line tool for administering Google Workspace and Cloud Identity. It translates command-line arguments into structured API calls, enabling administrators to manage users, groups, organizational units, and domain settings across a Google Workspace environment. The tool handles authentication through OAuth2 flows, service accounts, and workload identity federation, and supports multi-tenant configurations for managing multiple domains or cloud projects from a single installation. GAM distinguishes itself through its batch processing and automation capabilities. It can process la

Segment Anything Fast es un motor de inferencia de visión artificial de alto rendimiento y un framework de segmentación de imágenes construido para PyTorch. Proporciona un entorno especializado para el aislamiento automatizado de objetos y la generación de máscaras, diseñado para procesar datasets visuales a gran escala con mayor rendimiento. El proyecto se distingue por una suite de estrategias de optimización a nivel de sistema que aceleran el rendimiento de modelos de deep learning. Mediante el uso de compilación de modelos basada en grafos, fusión de kernels just-in-time y cuantización consciente del hardware, reduce la latencia computacional y el uso de memoria. Estas técnicas se complementan con aritmética de precisión mixta y paralelismo de entrada por lotes, que permiten al motor saturar los recursos de hardware durante tareas de segmentación complejas. Más allá de sus capacidades principales de segmentación, la librería incluye herramientas de diagnóstico integradas para el perfilado de rendimiento de deep learning. Estas utilidades permiten a los usuarios monitorear patrones de asignación de memoria y capturar trazas de tiempo de ejecución, proporcionando visibilidad sobre los cuellos de botella del sistema durante el análisis de datos a gran escala.