23 Repos
Frameworks providing standardized pipelines for model training, evaluation, and estimation.
Distinguishing note: Focuses on the pipeline and workflow orchestration aspect of machine learning, distinct from individual model implementations.
Explore 23 awesome GitHub repositories matching artificial intelligence & ml · Machine Learning Workflow Libraries. Refine with filters or upvote what's useful.
This project is an interactive data science environment that combines code execution, rich media visualization, and narrative documentation into a persistent, browser-based platform. It serves as a comprehensive educational resource for scientific computing, providing a framework for iterative data analysis and machine learning prototyping. The environment is distinguished by its focus on high-performance numerical computing, utilizing vectorized array operations and memory-mapped data structures to handle large-scale computations efficiently. It features a unified estimator interface that st
Provides a standardized interface for building, training, and evaluating predictive models through consistent pipelines.
Paddle is a deep learning framework designed for building, training, and deploying large-scale machine learning models. It incorporates a distributed training engine for optimizing performance across multiple chips and a model inference engine for transforming trained models into production-ready formats for cross-platform execution. The platform features a heterogeneous hardware abstraction and a standardized software stack that allows models to run across diverse hardware architectures through a common interface. It also includes a scientific computing library capable of solving complex dif
Manages the end-to-end pipeline from training to inference using a single framework to streamline development.
This project is an educational resource providing practical code examples and implementations of machine learning algorithms using the Python language. It serves as a guide for constructing predictive pipelines, clustering models, and dimensionality reduction within the Scikit-Learn ecosystem. The repository includes comprehensive demonstrations for supervised and unsupervised learning, as well as detailed examples for implementing neural networks and deep architectures. It also provides practical guidance on exporting model parameters to JSON and wrapping trained models in web APIs for produ
Provides standardized pipelines for sequencing data preprocessing and model training for consistent workflows.
This project is an autonomous AI agent framework and workflow orchestrator designed to automate machine learning engineering. It functions as a reasoning engine that reads research papers and writes code to train and deploy machine learning models through iterative reasoning loops and tool execution. The system distinguishes itself by integrating a GPU-accelerated sandboxed execution environment, allowing it to run and verify machine learning scripts in isolated remote containers. It utilizes a model provider integration gateway to route inference requests across various hosted or local endpo
Orchestrates the iterative cycle of machine learning research, training, and deployment pipelines.
This project is a structured learning curriculum and technical reference for mastering deep learning with TensorFlow. It provides a comprehensive guide for building, training, and deploying neural networks, combining theoretical fundamentals with practical implementation examples. The repository distinguishes itself by covering the end-to-end machine learning workflow, from low-level tensor mathematics and linear algebra to the creation of complex model architectures. It includes specific guidance on developing data pipelines for diverse data types, such as images, text, and time-series seque
Provides standardized pipelines and practical examples for building and deploying models across hardware.
PySyft is a privacy-preserving machine learning framework and remote computation engine. It functions as a decentralized data analysis orchestrator that allows for the execution of data science workflows on remote servers without requiring the transfer of raw private data from the host device. The platform provides a secure collaboration environment where data owners manage permissions and authorize specific collaborators to run computations. It differentiates its workflow by utilizing mock data for local development and validation before submitting final analysis jobs to private remote serve
Implements a workflow cycle of using mock data for development and remote execution for production results.
PyCaret is a Python AutoML platform and MLOps lifecycle manager designed to automate machine learning workflows. It functions as a low-code environment that leverages a scikit-learn native engine to execute preprocessing, training, and evaluation for tabular data. The platform distinguishes itself as an LLM-powered ML copilot, using large language model agents to analyze datasets, design experiment configurations, and explain model results. It also serves as a Kubernetes ML orchestrator and model registry, enabling the versioning of trained pipelines and their promotion to production API endp
Executes machine learning workflows using a standardized library of scikit-learn estimators and pipeline objects.
The Kaggle API command line interface is a suite of utilities for managing datasets, machine learning models, and competition entries from a terminal. It functions as a command line wrapper that translates user input into API calls to control remote cloud resources. The project differentiates itself by providing specialized tools for automating the execution of notebook kernels and managing the lifecycle of machine learning models, including version iteration and performance tracking. It also includes a utility for executing evaluation tasks against large language models and downloading the r
Automates the execution of notebook kernels and the orchestration of machine learning workflow cycles.
This project is a machine learning educational resource and implementation guide for Python. It provides a collection of executable code and notebooks that demonstrate predictive modeling, data analysis workflows, and the implementation of various machine learning algorithms. The repository features practical examples of classification, regression, and clustering tasks using Scikit-Learn, alongside tutorials for building and training deep learning architectures with TensorFlow. These include implementations of convolutional and recurrent networks. The content covers a broad range of capabili
Demonstrates complete machine learning workflows and pipelines using Jupyter Notebooks and Python scripts.
DeepChem is an open-source Python framework for applying deep learning to molecular, chemical, and biological data, serving as a comprehensive toolkit for drug discovery and materials science. At its core, it provides a featurizer-pipeline abstraction that converts raw molecular data into numerical representations, including graph-based molecular structures, SMILES tokenization vocabularies, and disk-sharded dataset persistence for handling large-scale data that exceeds RAM capacity. The framework distinguishes itself through integrated molecular docking workflows that automate pocket detecti
Ships a complete workflow library for molecular machine learning from data loading through evaluation.
Accelerates scikit-learn, UMAP, and HDBSCAN machine learning workflows on GPUs with no code changes.
ZenML is an orchestration platform designed for building, deploying, and monitoring reproducible machine learning pipelines and agentic workflows. It provides a unified framework that manages the entire lifecycle of machine learning assets, from data processing and model training to the deployment of persistent inference services. By decoupling pipeline logic from underlying compute and storage, the platform enables teams to transition workflows seamlessly from local development environments to production-grade cloud infrastructure. The platform distinguishes itself through a service-oriented
Constructs reproducible data processing and model training sequences by chaining computational units into directed acyclic graphs.
SynapseML ist eine Apache Spark Machine-Learning-Bibliothek, die für den Aufbau und die Skalierung von Machine-Learning-Workflows und Datenpipelines über verteilte Cluster hinweg entwickelt wurde. Sie dient als Framework für verteilte Machine-Learning-Pipelines und als verteilte Inferenz-Engine zur Ausführung hardwarebeschleunigter Vorhersagen und Deep-Learning-Aufgaben auf großskaligen Datensätzen. Das Projekt fungiert als Cloud-KI-Integrationsschicht, die es Benutzern ermöglicht, vortrainierte KI-Dienste für Text, Bild und Sprache innerhalb verteilter Pipelines anzuwenden. Es enthält zudem eine dedizierte Suite von Tools für verteilte Anomalieerkennung, um multivariate und Zeitreihen-Ausreißer in hochdimensionalen Daten zu identifizieren. Die Bibliothek deckt ein breites Spektrum an Funktionen ab, einschließlich verteilter Computer Vision für Gesichts- und Bildanalyse, skalierbarem Natural Language Processing für Textanalysen und Übersetzungen sowie das Training von Gradient Boosted Decision Trees. Sie bietet Tools für Ähnlichkeitssuche mittels k-Nearest-Neighbor-Modellierung, Modellerklärbarkeit durch Feature-Attribution und die Orchestrierung von Reinforcement-Learning-Workflows. Das System nutzt eine zusammensetzbare Pipeline-Architektur und unterstützt ONNX-basierte Modellinferenz für plattformübergreifende Kompatibilität.
Provides a standardized framework for building and scaling machine learning pipelines across distributed Spark clusters.
Mmlspark ist ein verteiltes Framework zur Ausführung von Machine-Learning-Modellen, Datentransformationen und KI-Dienstintegrationen über Apache Spark-Cluster hinweg. Es fungiert als verteilte Machine-Learning-Bibliothek und Pipeline-Orchestrator, der es Benutzern ermöglicht, vortrainierte kognitive Dienste und benutzerdefinierte Modelle in großskalige Batch- und Streaming-Workflows zu integrieren. Das Projekt zeichnet sich durch die Fähigkeit aus, externe KI-Dienste und Web-APIs direkt in Big-Data-Pipelines für Text- und Bildanalysen einzubinden. Es bietet ein skalierbares Modelltrainings-Framework, das Gradient Boosting- und Klassifizierungsaufgaben über elastisch skalierbare Compute-Cluster koordiniert und Hardwarebeschleunigung für verteilte Modellinferenz nutzt. Das Toolset deckt ein breites Spektrum an Funktionen ab, einschließlich multimodaler Inhaltsanalyse für Bild, Sprache und Text sowie fortgeschrittener Anomalieerkennung für Zeitreihen- und multivariate Daten. Es enthält Dienstprogramme für Daten-Featurization, die Ausführung von ONNX-Modellen und Responsible-AI-Tools für Audits zur Modellfairness und Interpretierbarkeit von Vorhersagen mittels additiver Beitragswerte. Das Framework bietet zudem eine einheitliche Datenzugriffsschnittstelle zum Lesen und Schreiben über verschiedene Datenbanken und Cloud-Speichersysteme hinweg.
Integrates machine learning models into distributed computing pipelines using a shared API.
cuml ist eine GPU-beschleunigte Machine-Learning-Bibliothek und ein Framework, das CUDA nutzt, um die Vorverarbeitung tabellarischer Daten und die Modellausführung zu beschleunigen. Es bietet eine Suite von Tools zum Trainieren und Bereitstellen von Klassifizierungs-, Regressions- und Clustering-Modellen auf NVIDIA-GPUs und GPU-Clustern. Die Bibliothek ist auf Skalierbarkeit ausgelegt und bietet eine verteilte GPU-Machine-Learning-Umgebung, die Berechnungen und Daten über mehrere Hardware-Beschleuniger und Knoten hinweg verteilen kann, um Datensätze zu verarbeiten, die den Speicher eines einzelnen Geräts überschreiten. Sie spiegelt Standard-Estimator-Schnittstellen wider, um den Austausch von CPU-basierten Modellen durch GPU-beschleunigte Versionen innerhalb bestehender Workflows zu ermöglichen. Das Projekt deckt ein breites Spektrum an Machine-Learning-Funktionen ab, einschließlich überwachtem Lernen, unüberwachtem Clustering, Nearest-Neighbor-Suche und hochdimensionaler Dimensionsreduktion. Es enthält zudem hardwarebeschleunigte Vorverarbeitung tabellarischer Daten für Feature-Skalierung und -Kodierung, Text-Feature-Extraktion, Zeitreihenanalyse und Erklärbarkeit von Modellvorhersagen. Unterstützende Hilfsmittel umfassen Tools zur Generierung synthetischer Datensätze, zur Serialisierung des Modellzustands und zur Berechnung von Modell-Performance-Metriken.
Accelerates scikit-learn and other machine learning workflows on GPUs with no changes required to the source code.
Memgraph is an in-memory, distributed graph database designed for high-performance labeled property graph management. It utilizes a Cypher query engine for declarative data retrieval and manipulation, providing a scalable knowledge graph backend that integrates vector search and graph traversals. The system distinguishes itself as a real-time graph analytics platform, employing native C++ and CUDA implementations to execute complex network analysis and dynamic community detection on streaming data. It provides specialized support for AI integration, including GraphRAG capabilities, the constr
Delivers graph-based insights and structured context to improve the training and execution of ML models.
Dies ist ein PyTorch-Empfehlungs-Framework und ein Deep-Learning-Empfehlungsmodell, das darauf ausgelegt ist, personalisierte Inhaltsvorhersagen zu generieren. Es fungiert als verteilter Embedding-Trainer, der dichte und spärliche Merkmale durch eine neuronale Netzwerkarchitektur verarbeitet, um Benutzerpräferenzen vorherzusagen. Das Projekt implementiert ein CUDA-optimiertes Machine-Learning-System unter Verwendung spezialisierter GPU-Kernel, um Embedding-Lookups und Aggregationen zu beschleunigen. Es verwendet einen verteilten Ansatz, um massive spärliche Merkmaltabellen über mehrere GPUs zu sharden, was das Training groß angelegter Modelle ermöglicht. Das System nutzt eine Two-Tower-Architektur für Merkmalsinteraktionen und unterstützt hybride Parallelität, die Daten- und Modellparallelität über Rechencluster hinweg kombiniert. Sein Funktionsumfang umfasst verteiltes Training über Netzwerkknoten, GPU-Speicheroptimierung und Checkpoint-basierte Statuswiederherstellung.
Manages the distributed training process and model checkpoints across a cluster of machines for performance and stability.
This project is a deep learning framework designed for end-to-end speech-to-text transcription. It utilizes the WaveNet neural network architecture to process spoken audio input and generate written text transcripts, leveraging connectionist temporal classification to map variable-length audio sequences to character-level outputs. The system distinguishes itself through a comprehensive training pipeline that supports distributed execution across multiple graphics processing units. It includes specialized utilities for audio data augmentation and the transformation of raw audio files into opti
Packages speech recognition engines and training pipelines into portable environments to ensure consistent execution across different host systems.
This project is a collection of interactive Jupyter notebooks and a structured machine learning tutorial series. It serves as an educational resource for studying predictive modeling and statistical analysis through a curriculum of executable code examples. The notebooks are specifically designed to accompany video tutorials, integrating external video assets with live code to synchronize visual instruction with hands-on experimentation. This approach allows users to follow sequential lessons while executing and modifying machine learning workflows directly in a browser. The content covers t
Teaches standardized pipelines for model training, evaluation, and estimation through structured lessons.
Dieses Projekt ist eine Sammlung interaktiver Jupyter Notebooks, die darauf ausgelegt sind, Grundlagen des Machine Learning und Deep Learning durch praktische Programmierübungen zu vermitteln. Es bietet einen strukturierten Lehrplan, der Benutzer durch den gesamten Data-Science-Lebenszyklus führt – von der anfänglichen Datenvorverarbeitung bis zur abschließenden Modellevaluierung. Das Repository zeichnet sich dadurch aus, dass es theoretische Data-Science-Konzepte mit praktischer Implementierung unter Verwendung von Standard-Industriebibliotheken verbindet. Es enthält eine Reihe von Tutorials, die zeigen, wie man prädiktive Modelle und komplexe neuronale Netzwerkarchitekturen, einschließlich konvolutionsbasierter und rekurrenter Modelle, in einer einheitlichen, ausführbaren Umgebung erstellt und trainiert. Der Lehrplan umfasst die Anwendung von Standard-Estimator-Mustern für Machine-Learning-Workflows und die Konstruktion neuronaler Netze durch modulare, schichtbasierte Komposition. Diese Materialien sind so organisiert, dass sie Lernende dabei unterstützen, die mathematischen und programmiertechnischen Abstraktionen zu beherrschen, die für Mustererkennungs- und Entscheidungsaufgaben erforderlich sind.
Provides structured coding exercises that guide users through the entire data science lifecycle from raw input to final results.