16 repositorios
Utilities for inspecting, debugging, and profiling WebGPU applications.
Explore 16 awesome GitHub repositories matching part of an awesome list · Debugging and Profiling Tools. Refine with filters or upvote what's useful.
RenderDoc es un depurador de frames gráficos multiplataforma y perfilador de GPU utilizado para capturar y analizar llamadas a APIs de gráficos 3D y el estado de un solo frame de renderizado. Funciona como una herramienta de depuración para Vulkan, OpenGL, OpenGL ES y Direct3D 11 y 12. La herramienta proporciona capacidades de depuración especializadas para inspeccionar pipelines gráficos y estados de recursos en Windows, Linux, Android y Nintendo Switch. Permite el análisis de shaders de DirectX, la creación de perfiles de aplicaciones OpenGL y el desarrollo de APIs Vulkan para verificar el comportamiento del renderizado y corregir errores visuales.
Serves as a cross-platform GPU profiler supporting Windows, Linux, Android, and Nintendo Switch for rendering optimization.
Mage AI es un orquestador de pipelines de datos basado en Python y un entorno de desarrollo integrado (IDE) de datos autohospedado. Está diseñado para construir, programar y monitorear flujos de trabajo de datos utilizando un diseño de pipeline basado en bloques y una interfaz de cuaderno interactiva. La plataforma se distingue por integrar capacidades de IA generativa, permitiendo a los usuarios conectar proveedores de grandes modelos de lenguaje mediante API para incorporar inteligencia artificial en flujos de datos automatizados. También funciona como un procesador de datos de Apache Spark, gestionando los kernels y la infraestructura necesarios para análisis de alto volumen y procesamiento de datos a gran escala. El sistema cubre una amplia gama de capacidades de ingeniería de datos, incluyendo la automatización de flujos de trabajo ETL, la gestión de modelos dbt y el descubrimiento de flujos de datos. Proporciona herramientas para la integración de control de versiones mediante Git, despliegue en contenedores y control de acceso basado en roles para gestionar pipelines en entornos de desarrollo y producción. El monitoreo se maneja a través de telemetría de rendimiento del sistema y depuración de ejecución de pipelines.
Provides step-by-step logs and live data previews to visually identify and fix logic issues in pipelines.
BertViz es un conjunto de herramientas de diagnóstico para visualizar cabezas de atención y comportamientos internos del modelo para interpretar cómo los modelos de lenguaje procesan el texto. Sirve como una herramienta de interpretabilidad y depurador para modelos de procesamiento de lenguaje natural, proporcionando específicamente mapas interactivos de mecanismos de atención dentro de arquitecturas Transformer. El proyecto permite el análisis de las relaciones entre tokens a través de vistas detalladas de cabezas y capas de atención específicas. Admite la visualización de atención global en todas las capas, mapeo de atención codificador-decodificador y la inspección de neuronas individuales dentro de vectores de consulta y clave para revelar su contribución a los cálculos de atención. La herramienta proporciona capacidades para filtrar vistas por capa, cabeza o pares de oraciones. Las visualizaciones se renderizan directamente dentro de entornos de notebook mediante inyección de HTML y JavaScript, y pueden exportarse como archivos HTML independientes para compartirlos externamente.
Inspects the internal behavior of NLP models by visualizing encoder and decoder layers.
This is an open-source educational website that translates and localizes MIT's Missing Semester course, teaching practical computing skills for computer science students. The curriculum covers developer tooling, shell scripting, version control, security fundamentals, and open-source collaboration, with a focus on core computing skills including data processing pipelines, workflow automation, secure remote access, shell productivity, Vim editing, and Git version control. The project distinguishes itself by teaching command-line mastery, shell scripting, and automation to boost daily developer
Teaches how to diagnose errors and measure performance using debuggers and profilers.
Data-Juicer is an open-source framework for cleaning, filtering, deduplicating, and transforming multimodal datasets to prepare them for training large language and vision models. It functions as a distributed data pipeline engine that runs processing jobs across Ray clusters, handling billions of samples with automatic operator fusion and adaptive parallelism. The framework provides a library of operators that leverage large language models for semantic extraction, filtering, and data synthesis within processing pipelines. The project distinguishes itself through a YAML-based data recipe sys
Traces sample changes through distributed processing to debug and audit workflows.
Inspects generated code, traces intermediate values, and prints debug output during pipeline execution.
Provides a suite of tools for building, debugging, profiling, and developing software that utilizes GPU hardware.
Perfetto is a platform for system-level performance tracing and analysis on Linux and Android. It combines a high-throughput trace recorder, a SQL-based query engine, and a browser-based visualizer into a single toolchain. The platform covers CPU scheduling and call-stack profiling, native and Java heap memory allocation tracking, GPU and graphics events, and system-wide counters such as CPU frequency and power consumption. The architecture decouples trace recording from offline analysis, using a compact protobuf format for event encoding and columnar storage for efficient SQL queries. The we
Captures GPU events, counters, and render stages to debug graphics performance and frame timing.
dlt es una herramienta de ingesta de datos en Python y framework de pipeline ETL diseñado para obtener datos de diversas fuentes y persistirlos en destinos estructurados. Funciona como un motor de inferencia de esquemas que detecta automáticamente tipos de datos y aplana estructuras JSON anidadas en tablas relacionales, moviendo datos desde fuentes a lakehouses, almacenes de datos o bases de datos vectoriales. El proyecto destaca por la generación de pipelines impulsada por IA, utilizando modelos de lenguaje de gran tamaño para crear código de extracción y conectores para APIs REST. También admite almacenamiento vectorial multimodal y población especializada de bases de datos vectoriales para soportar aplicaciones de IA y machine learning. El framework cubre una amplia gama de capacidades, incluyendo evolución automática de esquemas, carga incremental de datos mediante seguimiento de estado y validación de calidad de datos mediante la aplicación de contratos de datos. Proporciona herramientas para la normalización de datos relacionales, transformaciones pre y post-carga, y una variedad de adaptadores de destino para bases de datos SQL y almacenes de objetos en la nube. La observabilidad se maneja a través de paneles de ejecución de pipelines, seguimiento de linaje de columnas y verificación de versiones de esquema mediante hashes basados en contenido.
Retrieves execution traces, timing, and error logs to troubleshoot and debug pipeline runs.
Jitsu es una plataforma de datos de clientes diseñada para recopilar, transformar y enrutar eventos de aplicaciones a almacenes de datos y herramientas de marketing. Funciona como un motor de ingesta de eventos y enrutador de almacenes de datos, capturando datos de comportamiento a través de API y SDK para su procesamiento y almacenamiento en tiempo real. La plataforma cuenta con un pipeline de datos programable en JavaScript que permite el filtrado, enriquecimiento y remodelación de los datos de eventos durante el tránsito. Incluye un sistema de unión de identidades de clientes que fusiona identificadores de usuarios anónimos y conocidos para mantener perfiles de clientes persistentes dentro de un almacén. El sistema cubre una amplia gama de capacidades, incluyendo la recopilación de eventos de múltiples fuentes desde entornos web y móviles, la evolución automática de esquemas para almacenes de destino y el enrutamiento a múltiples destinos hacia plataformas SaaS y bases de datos SQL. Proporciona un conjunto de herramientas para desarrolladores para probar la lógica de transformación y admite el despliegue a través de Kubernetes o entornos Docker autohospedados.
Provides an interactive editor and debugger to test data processing functions against sample payloads.
SHADERed es un entorno de desarrollo y depurador de shaders multiplataforma utilizado para crear shaders de vértices, píxeles y computación. Funciona como un editor integrado para escribir y compilar código de shader mientras proporciona vistas previas visuales en vivo y la capacidad de configurar estados de la pipeline de renderizado. La herramienta cuenta con un depurador de shaders GLSL que permite la ejecución línea por línea con puntos de interrupción y observación de variables para resolver errores de lógica visual. Incluye un gestor de activos de shader para importar modelos 3D y texturas como entradas de datos, y admite un sistema de plugins extensible para integrar nuevos lenguajes y herramientas externas. La plataforma cubre además la configuración de la pipeline de renderizado para pruebas de mezcla y profundidad, junto con el análisis de datos de fotogramas para identificar comportamientos indefinidos en un fotograma completo.
Provides a comprehensive suite for debugging and profiling GPU programs via breakpoints and variable watches.
ExecuTorch is a lightweight C++ runtime for deploying PyTorch models on mobile, embedded, and edge hardware. It provides an ahead-of-time compilation pipeline that exports, quantizes, and lowers model graphs into compact serialized programs, then executes them through a minimal runtime with hardware acceleration and on-device large language model inference capabilities. The project distinguishes itself through a hardware accelerator delegate system that partitions model subgraphs and offloads computation to specialized backends including NPUs, GPUs, and DSPs from Apple, Arm, Intel, MediaTek,
Generates operator delegation tables, memory profiles, and time profiles to diagnose exported LLM performance.
Devtool is a suite of developer tools designed to execute server-side JavaScript code within a browser environment. It functions as a bridge that allows Node.js programs to run inside a Chromium instance, enabling the use of built-in browser developer tools for visual debugging and performance profiling. The project provides a read-eval-print loop for interactive command execution with support for relative imports and piped input. It also includes a file watcher that monitors source files for changes and automatically reloads programs to accelerate the iteration cycle. The system integrates
Provides a visual interface for setting breakpoints and running performance profiles to identify execution bottlenecks.
Habitat-sim is a high-performance 3D simulation platform designed for training and benchmarking embodied AI agents within photorealistic indoor and outdoor environments. It serves as a simulator for AI and robotics, providing a system for generating synthetic data and simulating physical interactions. The project is distinguished by a native C++ core that enables high-throughput simulation and a rendering pipeline using physically based rendering and baked global illumination. It features a navigation system based on pre-computed navigation meshes to ensure collision-free traversal and a rigi
Provides verbose logging and validation for GPU operations to resolve graphics context issues.
WebGPU devtools is a Web browser extension that helps debug WebGPU applications by monitoring WebGPU usage.
Browser extension for WebGPU development.
Install node. Note: I recommend using nvm(mac/linux) or nvm-windows(windows). run these commands:
Early-stage debugging tool for the API.