3 repository-uri
Mechanisms for saving and loading tabular data structures to ensure dataset consistency.
Distinct from Tabular Data Frameworks: Focuses on writing data to disk for preservation, while the parent is a general management framework.
Explore 3 awesome GitHub repositories matching data & databases · Data Persistence. Refine with filters or upvote what's useful.
This repository is a comprehensive collection of instructional guides and practical examples for Python development, focusing on machine learning, data science, and web scraping. It provides implementations for neural networks, reinforcement learning algorithms, and deep learning architectures using PyTorch, alongside detailed manuals for scientific computing and data visualization. The project distinguishes itself by offering specialized tutorials on concurrent programming to optimize CPU performance and guides for setting up Linux development environments. It covers the implementation of ad
Implements mechanisms for saving and loading datasets to disk to ensure data persistence.
AutoGluon is an automated machine learning framework and multimodal library designed to automate the end-to-end pipeline from data preprocessing to high-accuracy model training and validation. It functions as an automated model trainer for tabular, image, text, and time series data, as well as a tool for time series forecasting and foundation model finetuning. The project is distinguished by its ability to jointly process and fuse different data types, allowing for the construction of multimodal neural networks that integrate images, text, and structured tables. It supports zero-shot inferenc
Writes data frames to file paths using a consistent format to preserve datasets.
Go Spider este un framework modular conceput pentru construirea de web scraper-e concurente și fluxuri de lucru de extracție a datelor. Oferă un motor structurat pentru orchestrarea sarcinilor de crawling automatizate, gestionarea programării cererilor și procesarea conținutului web printr-un pipeline unificat. Framework-ul se distinge printr-o arhitectură extrem de configurabilă care permite dezvoltatorilor să injecteze logică personalizată pentru downloadere, schedulere și componente de stocare prin contracte bazate pe interfețe. Gestionează interacțiunile de rețea utilizând throttling-ul cererilor bazat pe middleware și deduplicarea URL-urilor, asigurând că operațiunile de crawling rămân eficiente și respectuoase față de încărcarea serverului. Sistemul acoperă întregul ciclu de viață al extracției datelor, inclusiv execuția concurentă a sarcinilor, parsarea automată a diverselor formate de conținut și normalizarea codificării caracterelor. Oferă, de asemenea, monitorizare încorporată prin logarea execuției și tracing pentru a facilita depanarea și analiza performanței. Proiectul este distribuit ca bibliotecă pentru limbajul de programare Go.
Routes processed data items to configurable outputs like console logs or local files.