3 repositorios
Mechanisms for saving and loading tabular data structures to ensure dataset consistency.
Distinct from Tabular Data Frameworks: Focuses on writing data to disk for preservation, while the parent is a general management framework.
Explore 3 awesome GitHub repositories matching data & databases · Data Persistence. Refine with filters or upvote what's useful.
This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad
Implements mechanisms for saving and loading datasets to disk to ensure data persistence.
AutoGluon is an automated machine learning framework and multimodal library designed to automate the end-to-end pipeline from data preprocessing to high-accuracy model training and validation. It functions as an automated model trainer for tabular, image, text, and time series data, as well as a tool for time series forecasting and foundation model finetuning. The project is distinguished by its ability to jointly process and fuse different data types, allowing for the construction of multimodal neural networks that integrate images, text, and structured tables. It supports zero-shot inferenc
Writes data frames to file paths using a consistent format to preserve datasets.
Go Spider es un framework modular diseñado para construir scrapers web concurrentes y flujos de trabajo de extracción de datos. Proporciona un motor estructurado para orquestar tareas de crawling automatizadas, gestionar la programación de solicitudes y procesar contenido web a través de una tubería unificada. El framework se distingue por una arquitectura altamente configurable que permite a los desarrolladores inyectar lógica personalizada para descargadores, programadores y componentes de almacenamiento a través de contratos basados en interfaces. Gestiona las interacciones de red utilizando limitación de solicitudes basada en middleware y deduplicación de URL, asegurando que las operaciones de crawling permanezcan eficientes y respetuosas con la carga del servidor. El sistema cubre el ciclo de vida completo de la extracción de datos, incluyendo la ejecución concurrente de tareas, el análisis automatizado de varios formatos de contenido y la normalización de codificación de caracteres. También proporciona monitoreo integrado a través de registro de ejecución y rastreo para facilitar la depuración y el análisis de rendimiento. El proyecto se distribuye como una biblioteca para el lenguaje de programación Go.
Routes processed data items to configurable outputs like console logs or local files.