4 repository-uri
Techniques for reusing memory buffers across requests to reduce allocation overhead and garbage collection pressure.
Distinct from Managed Memory Allocators: The candidates are low-level OS memory allocators, whereas this is a high-level web framework optimization for request contexts.
Explore 4 awesome GitHub repositories matching web development · Memory Buffer Reuse. Refine with filters or upvote what's useful.
Acest proiect oferă infrastructură pentru simularea, benchmarking-ul și implementarea conexiunilor de rețea concurente de mare volum pentru a testa scalabilitatea serverelor. Include un server WebSocket de înaltă concurență și un load tester corespondent, conceput pentru a verifica capacitatea serverelor de a gestiona milioane de conexiuni simultane. Sistemul utilizează un simulator de conexiuni containerizat pentru a imita volume masive de trafic în medii izolate multiple. Acest lucru permite implementarea unor instanțe client scalate pentru a efectua simulări de încărcare WebSocket și verificări de stabilitate. Implementarea se concentrează pe reducerea overhead-ului de memorie și a context switching-ului CPU prin multiplexare I/O asincronă, reciclarea buffer pool-urilor și un event loop. De asemenea, implică ajustarea parametrilor kernel-ului Linux și a descriptorilor de fișiere ai sistemului de operare pentru a suporta un număr masiv de socket-uri de rețea deschise.
Implements memory buffer reuse across concurrent sessions to increase total connection capacity.
This is an open-source, crowd-sourced wiki textbook that teaches Linux system programming in C. It covers the core operating system concepts of process management through the fork-exec-wait model, dynamic memory allocation using implicit free list heap allocators, inode-based file systems, inter-process communication via pipes and shared memory, POSIX threads with synchronization primitives, signal-based asynchronous notification, virtual memory with page table translation, and runtime diagnostics using Valgrind and GDB. The textbook distinguishes itself by providing practical, implementation
Teaches duplicating getline buffers with strdup to avoid dangling pointers.
TNN este un framework de inferență deep learning conceput pentru a executa rețele neuronale pre-antrenate pe hardware mobil, desktop și server. Acesta funcționează ca un runtime accelerat hardware și un toolkit de compresie a modelelor, oferind o interfață unificată pentru implementarea modelelor în medii diverse. Framework-ul include un convertor de modele ONNX pentru a transforma modelele din diverse framework-uri de antrenament într-un format intern standardizat. Se distinge printr-o combinație de instrumente de compresie a modelelor—inclusiv cuantizarea ponderilor și pruning-ul codului static—și un sistem de gestionare a memoriei care reutilizează bufferele între nodurile independente pentru a reduce utilizarea RAM. Sistemul optimizează performanța prin fuziunea operatorilor pentru a minimiza accesul la memorie și utilizează backend-uri specifice platformei pentru a profita de procesoare specializate și GPU-uri. De asemenea, crește viteza de execuție prin calcule de precizie scăzută și ajustări specifice hardware-ului.
Implements a memory management system that reuses buffers between non-dependent nodes to reduce total RAM usage.
This project is a comprehensive library of reference implementations and patterns for building web applications using the Go Fiber framework. It provides curated templates and implementation guides for creating REST APIs, web servers, and structured backend services. The repository serves as a practical resource for applying architectural patterns, including Clean and Hexagonal architectures, as well as port-and-adapter decoupling. It offers detailed examples for integrating common web features such as OAuth2 authentication, JWT verification, WebSockets for real-time communication, and server
The project's ability to reuse context buffers across requests to reduce memory overhead.