23 dépôts
Frameworks providing standardized pipelines for model training, evaluation, and estimation.
Distinguishing note: Focuses on the pipeline and workflow orchestration aspect of machine learning, distinct from individual model implementations.
Explore 23 awesome GitHub repositories matching artificial intelligence & ml · Machine Learning Workflow Libraries. Refine with filters or upvote what's useful.
This project is an interactive data science environment that combines code execution, rich media visualization, and narrative documentation into a persistent, browser-based platform. It serves as a comprehensive educational resource for scientific computing, providing a framework for iterative data analysis and machine learning prototyping. The environment is distinguished by its focus on high-performance numerical computing, utilizing vectorized array operations and memory-mapped data structures to handle large-scale computations efficiently. It features a unified estimator interface that st
Provides a standardized interface for building, training, and evaluating predictive models through consistent pipelines.
Paddle is a deep learning framework designed for building, training, and deploying large-scale machine learning models. It incorporates a distributed training engine for optimizing performance across multiple chips and a model inference engine for transforming trained models into production-ready formats for cross-platform execution. The platform features a heterogeneous hardware abstraction and a standardized software stack that allows models to run across diverse hardware architectures through a common interface. It also includes a scientific computing library capable of solving complex dif
Manages the end-to-end pipeline from training to inference using a single framework to streamline development.
This project is an educational resource providing practical code examples and implementations of machine learning algorithms using the Python language. It serves as a guide for constructing predictive pipelines, clustering models, and dimensionality reduction within the Scikit-Learn ecosystem. The repository includes comprehensive demonstrations for supervised and unsupervised learning, as well as detailed examples for implementing neural networks and deep architectures. It also provides practical guidance on exporting model parameters to JSON and wrapping trained models in web APIs for produ
Provides standardized pipelines for sequencing data preprocessing and model training for consistent workflows.
This project is an autonomous AI agent framework and workflow orchestrator designed to automate machine learning engineering. It functions as a reasoning engine that reads research papers and writes code to train and deploy machine learning models through iterative reasoning loops and tool execution. The system distinguishes itself by integrating a GPU-accelerated sandboxed execution environment, allowing it to run and verify machine learning scripts in isolated remote containers. It utilizes a model provider integration gateway to route inference requests across various hosted or local endpo
Orchestrates the iterative cycle of machine learning research, training, and deployment pipelines.
This project is a structured learning curriculum and technical reference for mastering deep learning with TensorFlow. It provides a comprehensive guide for building, training, and deploying neural networks, combining theoretical fundamentals with practical implementation examples. The repository distinguishes itself by covering the end-to-end machine learning workflow, from low-level tensor mathematics and linear algebra to the creation of complex model architectures. It includes specific guidance on developing data pipelines for diverse data types, such as images, text, and time-series seque
Provides standardized pipelines and practical examples for building and deploying models across hardware.
PySyft is a privacy-preserving machine learning framework and remote computation engine. It functions as a decentralized data analysis orchestrator that allows for the execution of data science workflows on remote servers without requiring the transfer of raw private data from the host device. The platform provides a secure collaboration environment where data owners manage permissions and authorize specific collaborators to run computations. It differentiates its workflow by utilizing mock data for local development and validation before submitting final analysis jobs to private remote serve
Implements a workflow cycle of using mock data for development and remote execution for production results.
PyCaret is a Python AutoML platform and MLOps lifecycle manager designed to automate machine learning workflows. It functions as a low-code environment that leverages a scikit-learn native engine to execute preprocessing, training, and evaluation for tabular data. The platform distinguishes itself as an LLM-powered ML copilot, using large language model agents to analyze datasets, design experiment configurations, and explain model results. It also serves as a Kubernetes ML orchestrator and model registry, enabling the versioning of trained pipelines and their promotion to production API endp
Executes machine learning workflows using a standardized library of scikit-learn estimators and pipeline objects.
The Kaggle API command line interface is a suite of utilities for managing datasets, machine learning models, and competition entries from a terminal. It functions as a command line wrapper that translates user input into API calls to control remote cloud resources. The project differentiates itself by providing specialized tools for automating the execution of notebook kernels and managing the lifecycle of machine learning models, including version iteration and performance tracking. It also includes a utility for executing evaluation tasks against large language models and downloading the r
Automates the execution of notebook kernels and the orchestration of machine learning workflow cycles.
This project is a machine learning educational resource and implementation guide for Python. It provides a collection of executable code and notebooks that demonstrate predictive modeling, data analysis workflows, and the implementation of various machine learning algorithms. The repository features practical examples of classification, regression, and clustering tasks using Scikit-Learn, alongside tutorials for building and training deep learning architectures with TensorFlow. These include implementations of convolutional and recurrent networks. The content covers a broad range of capabili
Demonstrates complete machine learning workflows and pipelines using Jupyter Notebooks and Python scripts.
DeepChem is an open-source Python framework for applying deep learning to molecular, chemical, and biological data, serving as a comprehensive toolkit for drug discovery and materials science. At its core, it provides a featurizer-pipeline abstraction that converts raw molecular data into numerical representations, including graph-based molecular structures, SMILES tokenization vocabularies, and disk-sharded dataset persistence for handling large-scale data that exceeds RAM capacity. The framework distinguishes itself through integrated molecular docking workflows that automate pocket detecti
Ships a complete workflow library for molecular machine learning from data loading through evaluation.
Accelerates scikit-learn, UMAP, and HDBSCAN machine learning workflows on GPUs with no code changes.
ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented
Constructs reproducible data processing and model training sequences by chaining computational units into directed acyclic graphs.
SynapseML est une bibliothèque de machine learning Apache Spark conçue pour construire et mettre à l'échelle des workflows de machine learning et des pipelines de données à travers des clusters distribués. Elle sert de framework de pipeline de machine learning distribué et de moteur d'inférence distribué pour exécuter des prédictions accélérées par le matériel et des tâches de deep learning sur des jeux de données à grande échelle. Le projet fonctionne comme une couche d'intégration d'IA cloud, permettant aux utilisateurs d'appliquer des services d'intelligence artificielle pré-entraînés pour le texte, la vision et la parole au sein de pipelines distribués. Il inclut également une suite dédiée d'outils pour la détection distribuée d'anomalies afin d'identifier les valeurs aberrantes multivariées et de séries temporelles à travers des données de haute dimension. La bibliothèque couvre un large éventail de capacités, incluant la vision par ordinateur distribuée pour l'analyse de visages et d'images, le traitement du langage naturel évolutif pour l'analyse et la traduction de texte, et l'entraînement d'arbres de décision à gradient boosté. Elle fournit des outils pour la recherche de similarité via la modélisation k-plus proches voisins, l'explicabilité des modèles via l'attribution de caractéristiques, et l'orchestration de workflows d'apprentissage par renforcement. Le système utilise une architecture de pipeline composable et prend en charge l'inférence de modèle basée sur ONNX pour une compatibilité multiplateforme.
Provides a standardized framework for building and scaling machine learning pipelines across distributed Spark clusters.
Mmlspark est un framework distribué pour exécuter des modèles de machine learning, des transformations de données et des intégrations de services d'IA à travers des clusters Apache Spark. Il fonctionne comme une bibliothèque de machine learning distribuée et un orchestrateur de pipeline, permettant aux utilisateurs d'intégrer des services cognitifs pré-entraînés et des modèles personnalisés dans des workflows de traitement par lots et de streaming à grande échelle. Le projet se distingue par sa capacité à incorporer des services d'IA externes et des API web directement dans des pipelines de big data pour l'analyse de texte et de vision. Il fournit un framework d'entraînement de modèle évolutif qui coordonne les tâches de gradient boosting et de classification à travers des clusters de calcul redimensionnables élastiquement, utilisant l'accélération matérielle pour l'inférence de modèle distribuée. L'ensemble d'outils couvre un large éventail de capacités, incluant l'analyse de contenu multimodal pour l'image, la parole et le texte, ainsi qu'une détection avancée d'anomalies pour les données de séries temporelles et multivariées. Il inclut des utilitaires pour la caractérisation des données, l'exécution de modèles ONNX et des outils d'IA responsable pour l'audit d'équité des modèles et l'interprétation des prédictions utilisant des valeurs de contribution additives. Le framework fournit également une interface d'accès aux données unifiée pour lire et écrire à travers diverses bases de données et systèmes de stockage cloud.
Integrates machine learning models into distributed computing pipelines using a shared API.
cuml est une bibliothèque et un framework de machine learning accéléré par GPU qui utilise CUDA pour accélérer le prétraitement des données tabulaires et l'exécution des modèles. Il fournit une suite d'outils pour entraîner et déployer des modèles de classification, de régression et de clustering sur des GPU NVIDIA et des clusters de GPU. La bibliothèque est conçue pour l'évolutivité, offrant un environnement de machine learning GPU distribué qui peut répartir le calcul et les données sur plusieurs accélérateurs matériels et nœuds pour gérer des ensembles de données dépassant la mémoire d'un seul appareil. Elle reflète les interfaces d'estimateur standard pour permettre le remplacement des modèles basés sur CPU par des versions accélérées par GPU au sein des flux de travail existants. Le projet couvre une large gamme de capacités de machine learning, y compris l'apprentissage supervisé, le clustering non supervisé, la recherche du plus proche voisin et la réduction de dimensionnalité de haute dimension. Il inclut également un prétraitement de données tabulaires accéléré par le matériel pour la mise à l'échelle et l'encodage des caractéristiques, l'extraction de caractéristiques de texte, l'analyse de séries temporelles et l'explicabilité des prédictions de modèle. Les utilitaires de support incluent des outils pour la génération d'ensembles de données synthétiques, la sérialisation de l'état du modèle et le calcul des métriques de performance du modèle.
Accelerates scikit-learn and other machine learning workflows on GPUs with no changes required to the source code.
Memgraph is an in-memory, distributed graph database designed for high-performance labeled property graph management. It utilizes a Cypher query engine for declarative data retrieval and manipulation, providing a scalable knowledge graph backend that integrates vector search and graph traversals. The system distinguishes itself as a real-time graph analytics platform, employing native C++ and CUDA implementations to execute complex network analysis and dynamic community detection on streaming data. It provides specialized support for AI integration, including GraphRAG capabilities, the constr
Delivers graph-based insights and structured context to improve the training and execution of ML models.
Il s'agit d'un framework de recommandation PyTorch et d'un modèle de recommandation d'apprentissage profond conçu pour générer des prédictions de contenu personnalisées. Il fonctionne comme un entraîneur d'embeddings distribué qui traite des caractéristiques denses et creuses via une architecture de réseau neuronal pour prédire les préférences des utilisateurs. Le projet implémente un système d'apprentissage automatique optimisé pour CUDA utilisant des noyaux GPU spécialisés pour accélérer la recherche et l'agrégation d'embeddings. Il emploie une approche distribuée pour fragmenter (shard) des tables de caractéristiques creuses massives sur plusieurs GPU, permettant l'entraînement de modèles à grande échelle. Le système utilise une architecture à deux tours pour l'interaction des caractéristiques et prend en charge le parallélisme hybride, combinant le parallélisme de données et de modèle sur des clusters de calcul. Sa surface de capacités inclut l'entraînement distribué sur des nœuds réseau, l'optimisation de la mémoire GPU et la récupération d'état basée sur des points de contrôle (checkpoints).
Manages the distributed training process and model checkpoints across a cluster of machines for performance and stability.
This project is a deep learning framework designed for end-to-end speech-to-text transcription. It utilizes the WaveNet neural network architecture to process spoken audio input and generate written text transcripts, leveraging connectionist temporal classification to map variable-length audio sequences to character-level outputs. The system distinguishes itself through a comprehensive training pipeline that supports distributed execution across multiple graphics processing units. It includes specialized utilities for audio data augmentation and the transformation of raw audio files into opti
Packages speech recognition engines and training pipelines into portable environments to ensure consistent execution across different host systems.
This project is a collection of interactive Jupyter notebooks and a structured machine learning tutorial series. It serves as an educational resource for studying predictive modeling and statistical analysis through a curriculum of executable code examples. The notebooks are specifically designed to accompany video tutorials, integrating external video assets with live code to synchronize visual instruction with hands-on experimentation. This approach allows users to follow sequential lessons while executing and modifying machine learning workflows directly in a browser. The content covers t
Teaches standardized pipelines for model training, evaluation, and estimation through structured lessons.
Ce projet est une collection de Jupyter notebooks interactifs conçus pour enseigner les fondamentaux du machine learning et du deep learning par le biais d'exercices de codage pratiques. Il fournit un programme structuré qui guide les utilisateurs à travers le cycle de vie complet de la science des données, couvrant tout, du prétraitement initial des données à l'évaluation finale du modèle. Le dépôt se distingue en reliant les concepts théoriques de la science des données à une implémentation pratique utilisant des bibliothèques industrielles standard. Il propose une série de tutoriels qui démontrent comment construire et entraîner des modèles prédictifs et des architectures de réseaux de neurones complexes, y compris des modèles convolutifs et récurrents, au sein d'un environnement unifié et exécutable. Le programme englobe l'application de modèles d'estimateurs standard pour les flux de travail de machine learning et la construction de réseaux de neurones par composition modulaire basée sur les couches. Ces supports sont organisés pour aider les apprenants à maîtriser les abstractions mathématiques et de programmation nécessaires pour les tâches de reconnaissance de formes et de décision.
Provides structured coding exercises that guide users through the entire data science lifecycle from raw input to final results.