3 dépôts
Mechanisms for saving and loading tabular data structures to ensure dataset consistency.
Distinct from Tabular Data Frameworks: Focuses on writing data to disk for preservation, while the parent is a general management framework.
Explore 3 awesome GitHub repositories matching data & databases · Data Persistence. Refine with filters or upvote what's useful.
This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad
Implements mechanisms for saving and loading datasets to disk to ensure data persistence.
AutoGluon is an automated machine learning framework and multimodal library designed to automate the end-to-end pipeline from data preprocessing to high-accuracy model training and validation. It functions as an automated model trainer for tabular, image, text, and time series data, as well as a tool for time series forecasting and foundation model finetuning. The project is distinguished by its ability to jointly process and fuse different data types, allowing for the construction of multimodal neural networks that integrate images, text, and structured tables. It supports zero-shot inferenc
Writes data frames to file paths using a consistent format to preserve datasets.
Go Spider est un framework modulaire conçu pour construire des scrapers web concurrents et des flux de travail d'extraction de données. Il fournit un moteur structuré pour orchestrer les tâches de crawling automatisées, gérer la planification des requêtes et traiter le contenu web via un pipeline unifié. Le framework se distingue par une architecture hautement configurable qui permet aux développeurs d'injecter une logique personnalisée pour les téléchargeurs, les planificateurs et les composants de stockage via des contrats basés sur des interfaces. Il gère les interactions réseau en utilisant une limitation de débit des requêtes basée sur un middleware et la déduplication d'URL, garantissant que les opérations de crawling restent efficaces et respectueuses de la charge du serveur. Le système couvre tout le cycle de vie de l'extraction de données, y compris l'exécution concurrente des tâches, l'analyse automatisée de divers formats de contenu et la normalisation de l'encodage des caractères. Il fournit également une surveillance intégrée via la journalisation et le traçage de l'exécution pour faciliter le débogage et l'analyse des performances. Le projet est distribué en tant que bibliothèque pour le langage de programmation Go.
Routes processed data items to configurable outputs like console logs or local files.