Awesome GitHub RepositoriesBatch Input Processing

Pkl is a configuration-as-code language used to define, validate, and generate structured configuration files. It functions as a type-safe configuration generator that enforces data integrity through a strongly-typed schema, ensuring configuration values meet defined constraints and types during evaluation. The project distinguishes itself by acting as both a configuration file generator and a binding generator. It transforms high-level programmable definitions into static formats such as JSON, YAML, or XML, and produces language-specific source code to synchronize settings and provide type s

jc is a tool that transforms plain-text results from command-line utilities, system tools, log formats, and text tables into structured JSON data. It functions as a structured data transformer capable of converting various file formats, including CSV, INI, XML, and YAML, into JSON representations for programmatic use. The project includes a collection of specific parsers for Unix commands and system tools such as df, blkid, and various package managers. It also features specialized converters for web server logs, Common Log Format, and Common Event Format strings. The tool covers broad capab

Kreuzberg is a document extraction engine that converts PDFs, Office files, images, and over 90 other formats into clean, structured text and metadata. It is built around a compiled Rust core that can be used as a native library, a command-line tool, a REST API server, or a WebAssembly module for browser-based processing. The system is designed to run entirely on self-hosted infrastructure, with no data leaving the user's environment. What distinguishes Kreuzberg is its breadth of integration surfaces and its pipeline architecture. It exposes extraction capabilities through native bindings fo

Depth-Anything is a monocular depth estimation foundation model that produces dense per-pixel depth maps from a single RGB image. It is built on a DINOv2 Vision Transformer encoder backbone and trained on 62 million unlabeled images using a teacher-student pseudo-labeling framework, enabling robust generalization across diverse scenes without task-specific training. The model outputs both relative depth maps, which capture the ordering of scene points, and metric depth maps with real-world units after fine-tuning on datasets like NYUv2 or KITTI. The project distinguishes itself through its ab

Stanza is a Python natural language processing library designed for tokenization, lemmatization, and dependency parsing across many human languages using neural models. It provides a neural processing pipeline that converts raw text into structured linguistic data objects, alongside a specialized analyzer for extracting medical insights from clinical and biomedical language. The project includes a wrapper that connects Python scripts to Java-based natural language processing tools and remote annotation servers. This enables a bridge for extracting linguistic annotations and analysis data from

ailab is a deep learning tool designed to upscale anime-style images, increasing their resolution while preserving fine details. It is built around a cascade U-Net architecture, a multi-stage neural network model that refines image quality through successive stages, and uses PyTorch for inference. The tool specializes in enhancing anime and cartoon-style artwork, applying super-resolution techniques to boost pixel dimensions without sacrificing visual fidelity. It processes images through a pipeline that includes tensor preprocessing, model inference, and post-processing pixel reconstruction,

Valhalla is an open-source routing engine that calculates optimal paths and travel times using OpenStreetMap data. It is built around a tiled routing graph framework, allowing map data to be organized into small geographic tiles for efficient regional updates and offline routing capability. The project distinguishes itself through a multimodal routing server that combines automobile, pedestrian, bicycle, and public transit modes into single journeys. It includes a GPS trace matching engine to align noisy coordinates to the most probable road network paths and an isochrone and matrix generator

Trafilatura is a Python library and command-line tool for extracting clean, structured text and metadata from web pages. It downloads HTML content, identifies the main body of text, and strips away navigation, ads, and other boilerplate, returning the core article content along with fields like title, author, date, and URL. The tool can also extract user comments and test whether a page contains extractable text, making it a general-purpose web text extraction library. What distinguishes Trafilatura from simpler extractors is its configurable extraction pipeline, which offers high-speed, high

Ce projet est un scraper d'API TikTok spécialisé et un extracteur de données. Il fonctionne comme un scraper web basé sur proxy, conçu pour collecter les métadonnées des utilisateurs, les publications vidéo et les flux de tendances, tout en fournissant un pipeline de données via webhook pour router les informations extraites vers des URL externes via des requêtes HTTP. L'outil inclut un téléchargeur de vidéos sans filigrane qui enregistre le contenu en haute définition sur le stockage local. Il utilise une signature de requête cryptographique pour l'authentification serveur et s'appuie sur l'authentification par cookies de session combinée à une rotation de proxies pour gérer le trafic réseau et éviter les limitations de débit (rate limits). Les capacités couvrent l'extraction de contenu en masse via des pipelines de traitement par lots et la récupération de métadonnées pour les profils, hashtags et pistes musicales. Les données extraites sont exportées aux formats JSON ou CSV structurés, et un suivi d'état local est utilisé pour enregistrer l'historique des téléchargements et éviter les requêtes en double.

Text Embeddings Inference est un serveur d'inférence haute performance conçu pour héberger des modèles d'embedding de texte et de classification de séquences en tant qu'endpoints d'API scalables. Il fournit une API d'embedding vectoriel pour convertir le texte en représentations denses et un serveur de reranking cross-encoder pour noter la pertinence des séquences de documents par rapport à une requête. Le projet dispose d'un moteur d'inférence accéléré par GPU qui utilise le traitement par lots dynamique et des noyaux spécialisés pour maximiser le débit. Il offre une interface binaire haute performance via gRPC comme alternative au HTTP standard pour réduire la latence réseau et la surcharge de sérialisation. Le système couvre un large éventail de capacités, incluant le classement de similarité de documents, le reranking de texte multilingue et la classification de séquences pour prédire des catégories ou des sentiments. Il prend en charge divers environnements de déploiement, allant des conteneurs serverless auto-scalables aux installations isolées (air-gapped). L'accélération matérielle est disponible pour les GPU NVIDIA, les GPU AMD et Apple Metal.

Ce projet est un framework de service de modèles PyTorch conçu pour déployer et mettre à l'échelle des modèles de machine learning en production via des endpoints réseau évolutifs. Il fonctionne comme un serveur d'inférence haute performance, un optimiseur et un gestionnaire de cycle de vie de modèle qui gère le chargement des modèles, le batching des requêtes et l'accélération matérielle. Le système se distingue par des capacités avancées d'orchestration et d'optimisation, telles que le chaînage de plusieurs modèles dans des workflows séquentiels utilisant des graphes d'exécution et l'utilisation du batching dynamique pour améliorer le débit et la latence. Il offre un support spécialisé pour l'IA générative et les grands modèles de langage (LLM) grâce au batching continu et au parallélisme de tenseurs. Les domaines de capacités étendus incluent la gestion des ressources GPU sur divers matériels comme NVIDIA, AMD et Apple Silicon, ainsi qu'une gestion complète du cycle de vie des modèles pour l'enregistrement, le versioning et la mise à l'échelle des workers. Il intègre également des outils d'observabilité pour suivre la santé du système et les performances des modèles via des métriques compatibles Prometheus. Le serveur est géré via une interface de ligne de commande utilisée pour le contrôle du cycle de vie et la configuration des paramètres d'exécution.

CTranslate2 is a C++ inference engine and runtime for Transformer models, designed to execute models on both CPU and GPU with optimizations for speed and memory efficiency. It functions as a model format converter, quantization tool, and REST API server, enabling deployment of neural machine translation, automatic speech recognition, and text generation models. The engine distinguishes itself through a suite of runtime optimizations including layer fusion, weight-matrix quantization, batch-by-length grouping, and a caching allocator that reuses GPU memory. It supports tensor-parallel model di

GAM is a command-line tool for administering Google Workspace and Cloud Identity. It translates command-line arguments into structured API calls, enabling administrators to manage users, groups, organizational units, and domain settings across a Google Workspace environment. The tool handles authentication through OAuth2 flows, service accounts, and workload identity federation, and supports multi-tenant configurations for managing multiple domains or cloud projects from a single installation. GAM distinguishes itself through its batch processing and automation capabilities. It can process la

Segment Anything Fast est un moteur d'inférence de vision par ordinateur et un framework de segmentation d'image haute performance construit pour PyTorch. Il fournit un environnement spécialisé pour l'isolation automatisée d'objets et la génération de masques, conçu pour traiter des jeux de données visuels à grande échelle avec un débit accru. Le projet se distingue par une suite de stratégies d'optimisation au niveau système qui accélèrent les performances des modèles de deep learning. En utilisant la compilation de modèles basée sur des graphes, la fusion de noyaux juste-à-temps (JIT) et la quantification consciente du matériel, il réduit la latence computationnelle et l'empreinte mémoire. Ces techniques sont complétées par l'arithmétique en précision mixte et le parallélisme des entrées par lots, qui permettent au moteur de saturer les ressources matérielles lors de tâches de segmentation complexes. Au-delà de ses capacités de segmentation de base, la bibliothèque inclut des outils de diagnostic intégrés pour le profilage des performances du deep learning. Ces utilitaires permettent aux utilisateurs de surveiller les modèles d'allocation mémoire et de capturer des traces de timing d'exécution, offrant une visibilité sur les goulots d'étranglement du système lors de l'analyse de données à grande échelle.