6 Repos
Tools for segmenting large graph structures into smaller subgraphs for memory-efficient processing.
Distinct from Graph Processing: Distinct from general graph processing: focuses specifically on memory-efficient partitioning for mini-batch training.
Explore 6 awesome GitHub repositories matching data & databases · Graph Partitioning Utilities. Refine with filters or upvote what's useful.
This project is a deep learning library designed for training neural networks on irregular data structures, including graphs, 3D meshes, and point clouds. It functions as an extension to the PyTorch framework, providing specialized layers and kernels that enable the processing of complex, non-Euclidean information. The library distinguishes itself through a geometric deep learning toolkit that manages the unique requirements of graph-based data. It utilizes sparse matrix-based message passing to aggregate information across nodes and employs dynamic computational graph construction to accommo
Segments large graph structures into smaller subgraphs to allow memory-efficient processing of datasets that exceed single-device capacity.
DGL is a Python library for building and training graph neural networks. It functions as a graph message passing framework and a geometric deep learning tool, enabling the development of models that analyze graph-structured data. The library is designed for large-scale graph processing, utilizing distributed training and neighbor sampling to handle datasets with billions of edges. It provides specialized support for heterogeneous graph modeling, allowing for the representation of complex real-world entities with multiple node and edge types. Its capabilities cover a wide range of graph tasks
Implements utilities for splitting large-scale graphs across multiple machines to enable training on massive datasets.
Titan ist eine verteilte Graphdatenbank und Computing-Engine, die für das Speichern und Abfragen massiver Datensätze aus miteinander verbundenen Knoten und Kanten über Multi-Maschinen-Cluster hinweg entwickelt wurde. Sie fungiert als skalierbare Graph-Speicherschicht und transaktionaler Speicher und bietet ein Framework für die Ausführung großskaliger Graph-Verarbeitungsjobs und tiefer Traversierungen. Das System zeichnet sich durch sein austauschbares Speicher-Backend aus, das die Graph-Engine von der physischen Persistenzschicht entkoppelt. Es nutzt Vertex-Cut-Datenpartitionierung, um Verarbeitungslasten auszugleichen, sowie ein Set-Kardinalitäts-Eigenschaftsmodell, das es ermöglicht, dass einzelne Eigenschaften mehrere Werte speichern können. Die Plattform deckt ein breites Spektrum an Funktionen ab, einschließlich Multi-Modell-Graph-Indizierung für geografische und Volltextsuchen, globales Schema-Management für die Neuindizierung von Datensätzen und transaktionale Operationen, die durch Write-Ahead-Logging sichergestellt werden. Zudem integriert es Element-Ablauf mittels Time-to-Live-Einstellungen und System-Performance-Monitoring zur Verfolgung von Abfrageaktivitäten und Transaktionslatenz.
Balances cluster load by segmenting large graph structures into smaller subgraphs using vertex or edge cuts.
AITemplate ist ein Ahead-of-Time-Deep-Learning-Compiler, der PyTorch-neuronale Netze in eigenständigen C++-Quellcode übersetzt. Er fungiert als PyTorch-zu-C++-Compiler und GPU-Kernel-Fusion-Engine und erzeugt in sich geschlossene ausführbare Binärdateien, die Inferenz ausführen, ohne einen Python-Interpreter oder eine Deep-Learning-Framework-Runtime zu benötigen. Das Projekt generiert optimierten CUDA- und HIP-C++-Code speziell für NVIDIA TensorCores und AMD MatrixCores. Es konzentriert sich auf die Maximierung des Durchsatzes für Gleitkommaoperationen mit halber Präzision durch ein System, das mehrere neuronale Netzwerkoperatoren zu einzelnen GPU-Kernels kombiniert, um Speicher-Overhead und Latenz zu minimieren. Das Toolset deckt GPU-Inferenzbeschleunigung und High-Performance-Computing ab und bietet Funktionen für die Entwicklung benutzerdefinierter GPU-Operatoren sowie das Mapping von Graph-Knoten auf hardware-spezifische Templates. Es enthält Utility-Unterstützung für das Benchmarking der Inferenz-Performance und die Visualisierung von Modelloptimierungen.
Handles unsupported operators by delegating specific graph segments to an external engine while accelerating the rest.
OpenSfM is a computer vision library and structure-from-motion pipeline designed to reconstruct three-dimensional scenes and camera trajectories from overlapping images. It functions as a 3D reconstruction engine and photogrammetry toolkit, utilizing automated feature-based image matching and incremental bundle adjustment to derive spatial geometry. The system distinguishes itself as a geospatial alignment tool, integrating GPS and inertial sensor data to align reconstructed 3D models with real-world geographic coordinates. It employs a hybrid Python and C++ execution model to manage large-sc
Organizes large image collections into manageable sub-graphs to reduce the computational complexity of reconstruction.
POT is an optimal transport library providing a collection of solvers for computing Wasserstein, Gromov-Wasserstein, and Fused Gromov-Wasserstein distances between probability distributions. It functions as a differentiable tensor framework that integrates with various tensor libraries to enable automatic differentiation and GPU acceleration. The project is distinguished by its ability to align data distributions across different metric spaces by comparing internal relational structures rather than coordinates. It implements mathematical optimization algorithms as differentiable layers, allow
Divides graphs into clusters and selects representative nodes to optimize the performance of quantized transport solvers.