3 Repos
Mechanisms for saving and loading tabular data structures to ensure dataset consistency.
Distinct from Tabular Data Frameworks: Focuses on writing data to disk for preservation, while the parent is a general management framework.
Explore 3 awesome GitHub repositories matching data & databases · Data Persistence. Refine with filters or upvote what's useful.
This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad
Implements mechanisms for saving and loading datasets to disk to ensure data persistence.
AutoGluon is an automated machine learning framework and multimodal library designed to automate the end-to-end pipeline from data preprocessing to high-accuracy model training and validation. It functions as an automated model trainer for tabular, image, text, and time series data, as well as a tool for time series forecasting and foundation model finetuning. The project is distinguished by its ability to jointly process and fuse different data types, allowing for the construction of multimodal neural networks that integrate images, text, and structured tables. It supports zero-shot inferenc
Writes data frames to file paths using a consistent format to preserve datasets.
Go Spider ist ein modulares Framework für den Aufbau konkurrierender Web-Scraper und Datenextraktions-Workflows. Es bietet eine strukturierte Engine zur Orchestrierung automatisierter Crawling-Aufgaben, zur Verwaltung der Request-Planung und zur Verarbeitung von Webinhalten durch eine einheitliche Pipeline. Das Framework zeichnet sich durch eine hochgradig konfigurierbare Architektur aus, die es Entwicklern ermöglicht, benutzerdefinierte Logik für Downloader, Scheduler und Speicherkomponenten über Interface-basierte Verträge einzubinden. Es verwaltet Netzwerkinteraktionen mittels Middleware-basiertem Request-Throttling und URL-Deduplizierung, um sicherzustellen, dass Crawling-Operationen effizient bleiben und die Serverlast respektieren. Das System deckt den gesamten Lebenszyklus der Datenextraktion ab, einschließlich konkurrierender Aufgabenausführung, automatisiertem Parsing verschiedener Inhaltsformate und Normalisierung der Zeichenkodierung. Zudem bietet es integriertes Monitoring durch Ausführungs-Logging und Tracing, um Debugging und Performance-Analyse zu erleichtern. Das Projekt wird als Bibliothek für die Programmiersprache Go verteilt.
Routes processed data items to configurable outputs like console logs or local files.