5 Repos
Environments for managing parallel data processing and communication across hardware meshes.
Distinguishing note: Focuses on the platform-level management of distributed data, distinct from specific array processing utilities.
Explore 5 awesome GitHub repositories matching data & databases · Distributed Computing Platforms. Refine with filters or upvote what's useful.
This project is a high-performance numerical computing library designed for large-scale scientific and machine learning workloads. It functions as an automatic differentiation framework and a just-in-time compilation engine, transforming high-level Python code into optimized machine instructions. By enforcing pure functional programming patterns and immutable array semantics, the library ensures that mathematical functions remain compatible with automated graph transformations and symbolic differentiation. The platform distinguishes itself through its distributed array computing capabilities,
Manages data sharding and collective communication across multiple hardware devices and multi-dimensional meshes.
Akka Core is an actor model framework and asynchronous concurrency library used for building scalable and resilient distributed systems. It provides a distributed computing platform and fault tolerant runtime that manages communication and state across networked nodes. The system uses location-transparent messaging and a cluster management system to organize nodes into high-availability architectures. This allows for the creation of elastic clusters that scale resources on demand and coordinate distributed workloads. The platform handles concurrent state management and distributed systems or
Manages communication and state across a cluster of networked nodes using a location-transparent distributed platform.
Runs computations across remote nodes by shipping bytecode and syncing dependencies automatically.
Ignite ist eine verteilte In-Memory-Daten-Grid- und Rechenplattform. Es fungiert als verteilte SQL-Datenbank und Speicher-Engine, die entwickelt wurde, um große Datensätze im RAM zu speichern und zu verarbeiten, um Latenzzeiten zu minimieren und die Berechnungsgeschwindigkeit zu erhöhen. Das System zeichnet sich durch eine mehrstufige Speicher-Engine aus, die die Datenplatzierung über Speicher und Festplatte verwaltet, um Hochgeschwindigkeitszugriff mit großer Kapazität in Einklang zu bringen. Es verfügt über ein verteiltes Rechen-Grid, das benutzerdefinierte Logik direkt auf den Knoten ausführt, auf denen sich die Daten befinden, um den Netzwerkverkehr zu reduzieren. Die Plattform bietet ein breites Spektrum an Funktionen, einschließlich ACID-Transaktionsmanagement, Standard-SQL-Abfragen und Key-Value-Operationen. Sie unterstützt die Aufnahme großer Datenmengen über reaktive Streams und bietet Integration durch mehrere Programmiersprachen, Standard-Datenbanktreiber und eine REST-API. Das System kann als verteilter Cluster mithilfe von Containern bereitgestellt oder über Kubernetes orchestriert werden. Das Projekt ist in Java geschrieben und kann über Binärarchive installiert werden.
Provides a platform for executing custom logic and tasks directly on the nodes where data resides.
Akka.NET is an actor model framework used for building concurrent and distributed applications. It functions as a distributed computing platform and state manager that enables isolated actors to communicate via asynchronous message passing, ensuring thread-safe state management without manual locks. The project is distinguished by its decentralized coordination capabilities, including a distributed state manager that uses sharding and dynamic rebalancing to maintain high availability. It incorporates an event sourcing engine that persists state as a sequence of events in an append-only log an
Offers a distributed computing platform managing actor clusters with location transparency and P2P communication.