4 repositorios
Techniques for reusing memory buffers across requests to reduce allocation overhead and garbage collection pressure.
Distinct from Managed Memory Allocators: The candidates are low-level OS memory allocators, whereas this is a high-level web framework optimization for request contexts.
Explore 4 awesome GitHub repositories matching web development · Memory Buffer Reuse. Refine with filters or upvote what's useful.
Este proyecto proporciona infraestructura para simular, comparar y ejecutar conexiones de red concurrentes de alto volumen para probar la escalabilidad del servidor. Incluye un servidor WebSocket de alta concurrencia y un probador de carga correspondiente diseñado para verificar la capacidad de los servidores para manejar millones de conexiones simultáneas. El sistema utiliza un simulador de conexiones contenedorizado para imitar volúmenes masivos de tráfico en múltiples entornos aislados. Esto permite el despliegue de instancias de cliente escaladas para realizar simulaciones de carga de WebSocket y verificación de estabilidad. La implementación se centra en reducir la sobrecarga de memoria y el cambio de contexto de CPU mediante E/S asíncrona multiplexada, reciclaje de pools de búfer y un bucle de eventos. Además, implica ajustar los parámetros del kernel de Linux y los descriptores de archivos del sistema operativo para admitir un número masivo de sockets de red abiertos.
Implements memory buffer reuse across concurrent sessions to increase total connection capacity.
This is an open-source, crowd-sourced wiki textbook that teaches Linux system programming in C. It covers the core operating system concepts of process management through the fork-exec-wait model, dynamic memory allocation using implicit free list heap allocators, inode-based file systems, inter-process communication via pipes and shared memory, POSIX threads with synchronization primitives, signal-based asynchronous notification, virtual memory with page table translation, and runtime diagnostics using Valgrind and GDB. The textbook distinguishes itself by providing practical, implementation
Teaches duplicating getline buffers with strdup to avoid dangling pointers.
TNN es un framework de inferencia de deep learning diseñado para ejecutar redes neuronales preentrenadas en hardware móvil, de escritorio y servidor. Funciona como un runtime acelerado por hardware y un kit de herramientas de compresión de modelos, proporcionando una interfaz unificada para desplegar modelos en diversos entornos. El framework incluye un convertidor de modelos ONNX para transformar modelos de varios frameworks de entrenamiento a un formato interno estandarizado. Se distingue por una combinación de herramientas de compresión de modelos —incluyendo cuantización de pesos y poda de código estático— y un sistema de gestión de memoria que reutiliza buffers entre nodos no dependientes para reducir el uso de RAM. El sistema optimiza el rendimiento mediante la fusión de operadores para minimizar el acceso a la memoria y emplea backends específicos de plataforma para aprovechar procesadores especializados y GPUs. Aumenta aún más la velocidad de ejecución mediante cálculos de baja precisión y ajustes específicos de hardware.
Implements a memory management system that reuses buffers between non-dependent nodes to reduce total RAM usage.
This project is a comprehensive library of reference implementations and patterns for building web applications using the Go Fiber framework. It provides curated templates and implementation guides for creating REST APIs, web servers, and structured backend services. The repository serves as a practical resource for applying architectural patterns, including Clean and Hexagonal architectures, as well as port-and-adapter decoupling. It offers detailed examples for integrating common web features such as OAuth2 authentication, JWT verification, WebSockets for real-time communication, and server
The project's ability to reuse context buffers across requests to reduce memory overhead.