3 repository-uri
Techniques for reducing storage overhead and redundancy in resource-constrained environments.
Distinct from Data Storage Optimizers: Focuses on redundancy reduction for small clusters rather than data format compression.
Explore 3 awesome GitHub repositories matching data & databases · Resource Optimization. Refine with filters or upvote what's useful.
This project is a GitOps infrastructure framework designed for managing bare metal servers, container clusters, and networking. It serves as a declarative system for orchestrating the deployment and lifecycle of self-hosted services, using Git as the source of truth to synchronize the desired state of the environment. The framework differentiates itself through a comprehensive automation suite that covers the entire hardware-to-service pipeline. It includes a PXE-based bare metal provisioner for network booting and operating system installation, alongside a lightweight container orchestration
Conserves resources in small environments by reducing data redundancy and limiting replica sizes.
go-fastdfs este un sistem de fișiere distribuit și un server de stocare de obiecte conceput pentru construirea de stocare în cloud privat. Oferă o implementare de stocare compatibilă cu FastDFS care gestionează clustere de noduri de stocare pentru a gestiona încărcări și descărcări de fișiere la scară largă. Sistemul se concentrează pe disponibilitate ridicată printr-o arhitectură descentralizată care sincronizează automat datele și repară defecțiunile între mai multe mașini fără un coordonator central. Suportă în mod specific stocarea fișierelor cu reluare prin HTTP, permițând transferurilor mari să fie întrerupte și reluate de la ultimul octet reușit pentru a gestiona instabilitatea rețelei. Capabilitățile de bază includ optimizarea resurselor de stocare prin deduplicarea conținutului bazată pe SHA1 și îmbinarea fișierelor mici pentru a reduce consumul de inode-uri al sistemului de fișiere. Proiectul încorporează, de asemenea, un pipeline de procesare a imaginilor care efectuează scalarea și redimensionarea dinamică a imaginilor în timpul procesului de descărcare și securizează accesul la fișiere folosind autentificarea bazată pe token-uri. Sistemul poate fi implementat prin containere Docker.
Reduces filesystem overhead by merging small files and removing redundant data through SHA1 content hashing.
meta-rules-dat is a collection of binary-encoded network datasets used to identify and categorize traffic for routing on resource-constrained devices. It provides a structured domain categorization list and a geographic IP routing dataset to map network traffic to specific countries or service providers. The project utilizes trie-based lookup data and compact binary serialization to enable high-performance prefix matching and fast domain-to-category resolution. To minimize memory and storage overhead, it employs stripped-down GeoIP mapping that removes non-essential metadata. The datasets co
Employs compressed binary datasets to reduce memory and storage overhead on low-power hardware.