3 repository-uri
Tools and patterns for extracting large datasets from AWS-hosted services.
Distinct from AWS Postgres Connectors: Shortlist candidates are focused on security or provisioning, not the specific domain of large-scale data retrieval from AWS.
Explore 3 awesome GitHub repositories matching data & databases · AWS Data Retrieval. Refine with filters or upvote what's useful.
The AWS SDK for Go is a software development kit and cloud infrastructure library used to programmatically interact with AWS cloud services. It provides a programmatic interface for authenticating requests, executing operations against regional endpoints, and automating the creation and management of cloud resources. The toolkit utilizes model-driven code generation to create service clients and employs a session-based configuration system to share credentials and global settings across those clients. It implements signature-based request authentication to verify identity and integrity throug
Fetches large datasets from AWS services using pagination and handling multipart object downloads.
awslogs este o interfață în linie de comandă și un utilitar bazat pe terminal pentru interogarea, filtrarea și streaming-ul evenimentelor de log din AWS CloudWatch. Acesta funcționează ca un instrument de gestionare a logurilor și un viewer cloud-native pentru navigarea în grupuri și fluxuri de loguri. Instrumentul oferă capabilități pentru monitorizarea logurilor în timp real și extragerea unor câmpuri specifice din logurile formatate JSON pentru a simplifica revizuirea datelor. Permite izolarea problemelor de sistem prin utilizarea decalajelor de timp, a expresiilor regulate și a modelelor de filtrare personalizate. Utilitarul acoperă regăsirea evenimentelor de log și listarea grupurilor și fluxurilor de loguri disponibile. Suportă limitarea regăsirii datelor prin filtrarea pe intervale de timp și reducerea volumului de date prin filtrare bazată pe modele.
Parses JSON formatted logs from AWS CloudWatch to extract specific data fields.
Acest proiect este o bibliotecă de integrare AWS pandas și framework de pipeline de date conceput pentru a simplifica mișcarea și transformarea datelor între memoria locală și serviciile de stocare și analiză AWS. Acesta funcționează ca un toolkit de data lake cloud și manager de fișiere de stocare, permițând utilizatorilor să citească, să scrie și să transforme date structurate în diverse medii cloud. Biblioteca se distinge ca un orchestrator de calcul distribuit capabil să gestioneze clustere în medii precum EMR pentru a procesa seturi de date care depășesc limitele de memorie ale unei singure mașini. Oferă, de asemenea, capabilități specializate pentru gestionarea indicilor vectoriali și efectuarea căutărilor de similaritate în bucket-urile de stocare cloud. Suprafața sa mai largă de capabilități acoperă ETL pentru baze de date cloud pentru servicii precum DynamoDB, RDS și Timestream, precum și gestionarea catalogului de date cloud prin AWS Glue. Suportă analiza datelor serverless prin Athena și Redshift și oferă utilitare pentru gestionarea obiectelor S3, indexarea documentelor în OpenSearch și analizarea log-urilor CloudWatch.
Provides a unified interface for extracting large datasets from Athena and Redshift into pandas data frames.