3 repositorios
Settings for managing storage backends and data shuffling in distributed environments.
Distinguishing note: Focuses on infrastructure configuration for distributed data processing rather than general database storage.
Explore 3 awesome GitHub repositories matching data & databases · Distributed Storage Configurations. Refine with filters or upvote what's useful.
Polars is a high-performance columnar data processing library designed for efficient analytical workflows. It functions as a structured data library that organizes information into typed columns, utilizing the Apache Arrow memory format to enable zero-copy data sharing and cache-friendly, vectorized operations. The engine is built to handle large-scale tabular datasets, providing both local and distributed analytical runtimes that scale from single-machine environments to multi-node clusters. The project distinguishes itself through a sophisticated lazy query engine that constructs abstract e
Configures storage backends and shuffle mechanisms to ensure fault tolerance and performance in distributed query execution.
GlusterFS es un sistema de archivos distribuido definido por software y un clúster de almacenamiento escalable que agrega recursos de disco de múltiples servidores en un único espacio de nombres global. Funciona como una plataforma de almacenamiento unificada, permitiendo que los mismos datos subyacentes se expongan a través de interfaces de almacenamiento de archivos, bloques y objetos. El sistema se distingue por una arquitectura descentralizada que utiliza hashing consistente para distribuir archivos a través de nodos de red sin un servidor de metadatos central. Asegura la integridad y disponibilidad de los datos utilizando replicación de autocuración, consistencia basada en quórum para evitar escenarios de split-brain y georeplicación asíncrona para recuperación ante desastres en sitios geográficos distantes. La plataforma proporciona una amplia cobertura de capacidades a través de exportación de almacenamiento multiprotocolo vía NFS, Samba e iSCSI, así como una gestión integral de volúmenes que incluye instantáneas puntuales, cuotas de almacenamiento y expansión elástica de capacidad. La seguridad se maneja a través de cifrado TLS para datos en tránsito, integración de gestión de identidad y control de acceso POSIX granular. El software está disponible como paquetes binarios a través de repositorios comunitarios para varias distribuciones de Linux.
Allows tuning of stripe block sizes and hash-range allocation to optimize data distribution across storage bricks.
CloudStack is an infrastructure-as-a-service orchestration engine designed to automate the deployment and lifecycle of computing, storage, and networking resources within a software-defined data center. It serves as a management layer for provisioning private clouds and managing the delivery of virtual machines and persistent storage across virtualized physical infrastructure. The platform features a multi-hypervisor orchestrator that utilizes a hypervisor-agnostic abstraction layer to control diverse virtualization technologies through a unified set of standardized API calls. It further prov
Configures storage backends and networking to provide persistent data access across virtualized environments.