7 repositorios
Mechanisms for offloading log event processing to background threads using queues to minimize application latency.
Distinct from Event Logging: Distinct from general Event Logging as it specifically addresses the performance optimization of asynchronous delivery.
Explore 7 awesome GitHub repositories matching software engineering & architecture · Asynchronous Processing. Refine with filters or upvote what's useful.
downkyicore is a cross-platform desktop application designed for the automated batch downloading of Bilibili videos, including support for high-resolution 8K and HDR content. It functions as a batch media downloader that manages multiple files and collections simultaneously through an automated queue system. The project integrates FFmpeg for media processing to separate audio and video streams and remove watermarks. It uses specialized mechanisms to bypass access restrictions and rate limits by employing random identifiers and mobile referrers during the parsing process. The system includes
Utilizes a background queue for asynchronous logging to prevent I/O operations from blocking the main application process.
Este proyecto es un framework de servicio de modelos de PyTorch diseñado para desplegar y escalar modelos de machine learning en producción a través de endpoints de red escalables. Funciona como un servidor de inferencia de alto rendimiento, optimizador y gestor del ciclo de vida del modelo que maneja la carga de modelos, el procesamiento por lotes (batching) de solicitudes y la aceleración por hardware. El sistema se distingue por sus capacidades avanzadas de orquestación y optimización, como el encadenamiento de múltiples modelos en flujos de trabajo secuenciales mediante grafos de ejecución y el uso de procesamiento por lotes dinámico para mejorar el rendimiento y la latencia. Proporciona soporte especializado para IA generativa y modelos de lenguaje de gran tamaño (LLM) mediante procesamiento por lotes continuo y paralelismo de tensores. Las áreas de capacidad incluyen la gestión de recursos de GPU en hardware diverso como NVIDIA, AMD y Apple Silicon, así como una gestión integral del ciclo de vida del modelo para registro, versionado y escalado de trabajadores. También integra herramientas de observabilidad para rastrear la salud del sistema y el rendimiento del modelo mediante métricas compatibles con Prometheus. El servidor se gestiona a través de una interfaz de línea de comandos utilizada para el control del ciclo de vida y la configuración de parámetros de tiempo de ejecución.
Optimizes throughput by processing log entries asynchronously to prevent blocking I/O.
Easyloggingpp is a header-only C++ logging framework and diagnostic tool designed for recording system events and diagnostic messages. It functions as a thread-safe logging library that synchronizes access across multiple concurrent execution threads to prevent data corruption during event recording. The framework features an asynchronous logger that processes messages on a background thread to minimize latency and prevent blocking the main application. It also acts as a log dispatcher, capable of routing data to local files, system syslog facilities, or remote network destinations for system
Provides mechanisms to offload log event processing to background threads to minimize application latency.
Easyloggingpp is a C++ logging library and thread-safe logging framework used for recording diagnostic messages and application events. It functions as an asynchronous logger, processing messages on a background thread to reduce latency and prevent blocking the main execution path. The project includes a log rotation manager to automatically truncate or roll over files once they reach a specified disk size limit. It also serves as a performance tracking tool for measuring function execution timing and recording checkpoints to identify processing bottlenecks. The library covers a broad range
Implements asynchronous processing to offload log events to background threads and minimize application latency.
This project is a logging framework for Java environments, providing a standardized interface for capturing diagnostic application events and maintaining persistent audit trails. It functions as an enterprise-grade logging engine designed to handle high-throughput applications while managing complex diagnostic data. The framework distinguishes itself through a modular provider architecture that allows for the dynamic swapping of logging implementations and output destinations. It utilizes a hierarchical configuration system that enables granular control over logging behavior, supported by plu
Offloads log event processing to background threads using queues to minimize application latency.
Logback is a Java logging framework used to record system events and diagnostic messages through a programmable API. It serves as a concrete implementation of the Simple Logging Facade for Java (SLF4J) and provides a structured logging engine for outputting events in machine-readable formats like JSON. The system distinguishes itself through an asynchronous log processor that utilizes circular queues and background workers to reduce performance overhead. It also features a log file rotation manager for size-based or time-based rollover with automatic compression, and the ability to update log
Buffering log events in background queues to prevent logging operations from slowing down the main application performance.
El servidor actúa como un motor de ingesta centralizado diseñado para recolectar, normalizar e indexar datos de telemetría distribuidos. Funciona como un procesador de backend que recibe métricas de rendimiento, trazas y registros de errores de agentes de aplicación, transformándolos en documentos estructurados para su almacenamiento y análisis dentro de plataformas de búsqueda y analítica. El sistema se distingue por un pipeline de ingesta de alto rendimiento que utiliza procesamiento de eventos asíncrono y control de flujo consciente de la contrapresión (backpressure) para mantener la estabilidad durante picos de tráfico. Emplea etapas de transformación modulares basadas en plugins para sanitizar y enriquecer payloads entrantes, asegurando que los datos heterogéneos sean mapeados a un esquema unificado antes de ser confirmados en el backend mediante indexación masiva optimizada. Más allá de la ingesta central, el proyecto proporciona capacidades de observabilidad completas, incluyendo trazas de peticiones distribuidas, mapeo de dependencias de servicios y rastreo de errores de aplicación. Soporta monitoreo especializado para instrumentación móvil y aplicaciones de modelos de lenguaje, mientras ofrece herramientas de diagnóstico para la correlación de anomalías de rendimiento y recolección de métricas a nivel de sistema. El repositorio incluye una suite de utilidades para la orquestación de desarrollo local, sincronización de contenedores y pruebas automatizadas de rutas de actualización de despliegue.
Decouples data reception from indexing using background processing to maintain stability during traffic spikes.