1 个仓库
Awesome GitHub RepositoriesData Object Replication
Storing multiple copies of a single data object across different cluster segments to prevent access hotspots.
Distinct from Distributed Object Stores: Specific to duplicating objects to balance load in a distributed store, not general object storage paradigms.
Explore 1 awesome GitHub repository matching data & databases · Data Object Replication. Refine with filters or upvote what's useful.
Awesome Data Object Replication GitHub Repositories
用 AI 发现最棒的仓库。我们将通过 AI 为您搜索最匹配的仓库。
- kvcache-ai/mooncake
kvcache-ai/Mooncake
5,594在 GitHub 上查看Mooncake 是一个用于高性能推理基础设施的存算分离大语言模型服务平台和分布式键值存储系统。它作为一个 GPU 内存编排器和 KV 缓存管理系统，通过在集群间池化和传输键值缓存来加速推理。 该系统的独特之处在于将推理的预填充（prefill）和解码（decode）阶段分离到不同的硬件集群中，以优化资源利用率。它利用高性能 RDMA 分布式缓存和零拷贝传输在计算节点间移动数据，绕过 CPU 以减少延迟和开销。 该平台涵盖了广泛的功能领域，包括分布式内存池化、通过 CXL 进行加速器内存路由，以及向 SSD 进行多级存储卸载。它通过元数据协调服务管理集群状态，并利用基于租约的对象保护和基于水位线的缓存驱逐机制实现资源治理。 该软件已打包用于容器化部署，支持主机网络和硬件设备映射。
Stores multiple replicas of a single object across different segments to reduce access hotspots.
C++
