1 Repo
Awesome GitHub RepositoriesCloud Query Engine Normalizers
Components that transform schemas to be compatible with specific cloud query engines and catalogs.
Distinct from Data Normalization Layers: Distinct from general API normalization by focusing on cloud query engine and catalog compatibility.
Explore 1 awesome GitHub repository matching software engineering & architecture · Cloud Query Engine Normalizers. Refine with filters or upvote what's useful.
Awesome Cloud Query Engine Normalizers GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- awslabs/aws-data-wrangler
awslabs/aws-data-wrangler
4,107Auf GitHub ansehenDieses Projekt ist eine AWS-Pandas-Integrationsbibliothek und ein Daten-Pipeline-Framework, das entwickelt wurde, um die Bewegung und Transformation von Daten zwischen lokalem Speicher und AWS-Speicher- und Analysediensten zu vereinfachen. Es fungiert als Cloud-Data-Lake-Toolkit und Storage-File-Manager, der es Nutzern ermöglicht, strukturierte Daten über verschiedene Cloud-Umgebungen hinweg zu lesen, zu schreiben und zu transformieren. Die Bibliothek zeichnet sich als verteilter Compute-Orchestrator aus, der Cluster in Umgebungen wie EMR verwalten kann, um Datensätze zu verarbeiten, die die Speichergrenzen einer einzelnen Maschine überschreiten. Sie bietet zudem spezialisierte Funktionen zur Verwaltung von Vektor-Indizes und zur Durchführung von Ähnlichkeitssuchen innerhalb von Cloud-Storage-Buckets. Die breiteren Funktionen umfassen Cloud-Datenbank-ETL für Dienste wie DynamoDB, RDS und Timestream sowie Cloud-Data-Catalog-Management via AWS Glue. Sie unterstützt serverlose Datenanalyse durch Athena und Redshift und bietet Utilities zur Verwaltung von S3-Objekten, zur Indexierung von Dokumenten in OpenSearch und zur Analyse von CloudWatch-Logs.
Transforms column names and data types into formats required by specific cloud query engines and catalogs.
Python
