7 Repos
Mechanisms for offloading log event processing to background threads using queues to minimize application latency.
Distinct from Event Logging: Distinct from general Event Logging as it specifically addresses the performance optimization of asynchronous delivery.
Explore 7 awesome GitHub repositories matching software engineering & architecture · Asynchronous Processing. Refine with filters or upvote what's useful.
downkyicore is a cross-platform desktop application designed for the automated batch downloading of Bilibili videos, including support for high-resolution 8K and HDR content. It functions as a batch media downloader that manages multiple files and collections simultaneously through an automated queue system. The project integrates FFmpeg for media processing to separate audio and video streams and remove watermarks. It uses specialized mechanisms to bypass access restrictions and rate limits by employing random identifiers and mobile referrers during the parsing process. The system includes
Utilizes a background queue for asynchronous logging to prevent I/O operations from blocking the main application process.
Dieses Projekt ist ein PyTorch-Framework für das Model-Serving, das darauf ausgelegt ist, Machine-Learning-Modelle in der Produktion über skalierbare Netzwerk-Endpunkte bereitzustellen. Es fungiert als leistungsstarker Inference-Server, Optimierer und Modell-Lifecycle-Manager, der das Laden von Modellen, Request-Batching und Hardware-Beschleunigung übernimmt. Das System zeichnet sich durch fortschrittliche Orchestrierungs- und Optimierungsfunktionen aus, wie etwa das Verketten mehrerer Modelle zu sequenziellen Workflows mittels Ausführungsgraphen und den Einsatz von Dynamic Batching zur Verbesserung von Durchsatz und Latenz. Es bietet spezialisierte Unterstützung für generative KI und Large Language Models durch Continuous Batching und Tensor-Parallelität. Zu den breiten Funktionsbereichen gehören GPU-Ressourcenmanagement für diverse Hardware wie NVIDIA, AMD und Apple Silicon sowie ein umfassendes Lifecycle-Management für Registrierung, Versionierung und Worker-Skalierung. Zudem integriert es Observability-Tools zur Überwachung des Systemzustands und der Modellleistung über Prometheus-kompatible Metriken. Der Server wird über eine Kommandozeilenschnittstelle verwaltet, die zur Steuerung des Lifecycles und zur Konfiguration von Laufzeitparametern dient.
Optimizes throughput by processing log entries asynchronously to prevent blocking I/O.
Easyloggingpp ist ein Header-only C++-Logging-Framework und Diagnose-Tool zur Aufzeichnung von Systemereignissen und Diagnosemeldungen. Es fungiert als thread-sichere Logging-Bibliothek, die den Zugriff über mehrere gleichzeitige Ausführungsthreads hinweg synchronisiert, um Datenkorruption während der Ereignisaufzeichnung zu verhindern. Das Framework bietet einen asynchronen Logger, der Meldungen auf einem Hintergrund-Thread verarbeitet, um Latenzzeiten zu minimieren und ein Blockieren der Hauptanwendung zu verhindern. Es fungiert zudem als Log-Dispatcher, der Daten an lokale Dateien, System-Syslog-Einrichtungen oder entfernte Netzwerkziele zur Systemüberwachung weiterleiten kann. Das Toolset deckt ein breites Spektrum an Observability-Funktionen ab, einschließlich Stack-Trace-Erfassung, Crash-Log-Handling und Laufzeitverfolgung für Performance-Profiling. Es bietet Verwaltungs-Utilities für größenbasierte Dateirotation, benutzerdefinierte Log-Layouts und Schweregrad-Filterung sowie Unterstützung für die Serialisierung komplexer Typen und benutzerdefinierter Objekte.
Provides mechanisms to offload log event processing to background threads to minimize application latency.
Easyloggingpp ist eine C++-Logging-Bibliothek und ein thread-sicheres Logging-Framework zur Aufzeichnung von Diagnosemeldungen und Anwendungsereignissen. Es fungiert als asynchroner Logger, der Meldungen auf einem Hintergrund-Thread verarbeitet, um Latenzzeiten zu reduzieren und den Hauptausführungspfad nicht zu blockieren. Das Projekt enthält einen Log-Rotations-Manager, um Dateien automatisch zu kürzen oder zu rotieren, sobald sie ein festgelegtes Speichergrößenlimit erreichen. Es dient zudem als Performance-Tracking-Tool zur Messung von Funktionsausführungszeiten und zur Aufzeichnung von Checkpoints, um Verarbeitungsengpässe zu identifizieren. Die Bibliothek deckt ein breites Spektrum an Observability-Funktionen ab, einschließlich Datenformatierung für komplexe Typen und benutzerdefinierte Klassen, signalgesteuertes Crash-Handling zur Stack-Trace-Erfassung sowie Log-Routing an benutzerdefinierte Sinks oder System-Logger. Sie bietet Filtermechanismen basierend auf Schweregraden und booleschen Bedingungen sowie Konfigurations-Utilities zur Verwaltung benannter Logger-Instanzen und gemeinsam genutzter Logging-Zustände.
Implements asynchronous processing to offload log events to background threads and minimize application latency.
This project is a logging framework for Java environments, providing a standardized interface for capturing diagnostic application events and maintaining persistent audit trails. It functions as an enterprise-grade logging engine designed to handle high-throughput applications while managing complex diagnostic data. The framework distinguishes itself through a modular provider architecture that allows for the dynamic swapping of logging implementations and output destinations. It utilizes a hierarchical configuration system that enables granular control over logging behavior, supported by plu
Offloads log event processing to background threads using queues to minimize application latency.
Logback is a Java logging framework used to record system events and diagnostic messages through a programmable API. It serves as a concrete implementation of the Simple Logging Facade for Java (SLF4J) and provides a structured logging engine for outputting events in machine-readable formats like JSON. The system distinguishes itself through an asynchronous log processor that utilizes circular queues and background workers to reduce performance overhead. It also features a log file rotation manager for size-based or time-based rollover with automatic compression, and the ability to update log
Buffering log events in background queues to prevent logging operations from slowing down the main application performance.
The server acts as a centralized ingestion engine designed to collect, normalize, and index distributed telemetry data. It functions as a backend processor that receives performance metrics, traces, and error logs from application agents, transforming them into structured documents for storage and analysis within search and analytics platforms. The system distinguishes itself through a high-throughput ingestion pipeline that utilizes asynchronous event processing and backpressure-aware flow control to maintain stability during traffic spikes. It employs modular, plugin-based transformation st
Decouples data reception from indexing using background processing to maintain stability during traffic spikes.