1 Repo
Awesome GitHub RepositoriesCloud Data Ingestion Interfaces
Unified APIs for transferring structured data between memory and managed cloud services.
Distinct from Data Ingestion APIs: Existing candidates focus on narrow agent memory or metrics; this is for general cloud-native data frame ingestion.
Explore 1 awesome GitHub repository matching data & databases · Cloud Data Ingestion Interfaces. Refine with filters or upvote what's useful.
Awesome Cloud Data Ingestion Interfaces GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- awslabs/aws-data-wrangler
awslabs/aws-data-wrangler
4,107Auf GitHub ansehenDieses Projekt ist eine AWS-Pandas-Integrationsbibliothek und ein Daten-Pipeline-Framework, das entwickelt wurde, um die Bewegung und Transformation von Daten zwischen lokalem Speicher und AWS-Speicher- und Analysediensten zu vereinfachen. Es fungiert als Cloud-Data-Lake-Toolkit und Storage-File-Manager, der es Nutzern ermöglicht, strukturierte Daten über verschiedene Cloud-Umgebungen hinweg zu lesen, zu schreiben und zu transformieren. Die Bibliothek zeichnet sich als verteilter Compute-Orchestrator aus, der Cluster in Umgebungen wie EMR verwalten kann, um Datensätze zu verarbeiten, die die Speichergrenzen einer einzelnen Maschine überschreiten. Sie bietet zudem spezialisierte Funktionen zur Verwaltung von Vektor-Indizes und zur Durchführung von Ähnlichkeitssuchen innerhalb von Cloud-Storage-Buckets. Die breiteren Funktionen umfassen Cloud-Datenbank-ETL für Dienste wie DynamoDB, RDS und Timestream sowie Cloud-Data-Catalog-Management via AWS Glue. Sie unterstützt serverlose Datenanalyse durch Athena und Redshift und bietet Utilities zur Verwaltung von S3-Objekten, zur Indexierung von Dokumenten in OpenSearch und zur Analyse von CloudWatch-Logs.
Provides a unified interface for transferring pandas data frames into various AWS managed services.
Python
