awesome-repositories.com
Blog
MCP
awesome-repositories.com

Entdecke die besten Open-Source-Repositories mit KI-gestützter Suche.

EntdeckenKuratierte SuchenOpen-Source-AlternativenSelf-hosted SoftwareBlogSitemap
ProjektMCP-ServerÜber unsRanking-MethodikPresse
RechtlichesDatenschutzAGB
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

38 Repos

Awesome GitHub RepositoriesModel Prediction Evaluation

Systems for comparing model outputs against ground truth labels to calculate performance reports.

Distinct from Model Predictions: None of the candidates specifically cover the end-to-end evaluation of predictions against ground truth for general ML models.

Explore 38 awesome GitHub repositories matching artificial intelligence & ml · Model Prediction Evaluation. Refine with filters or upvote what's useful.

Awesome Model Prediction Evaluation GitHub Repositories

Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
  • rasbt/python-machine-learning-bookAvatar von rasbt

    rasbt/python-machine-learning-book

    12,614Auf GitHub ansehen↗

    This project is an educational resource providing practical code examples and implementations of machine learning algorithms using the Python language. It serves as a guide for constructing predictive pipelines, clustering models, and dimensionality reduction within the Scikit-Learn ecosystem. The repository includes comprehensive demonstrations for supervised and unsupervised learning, as well as detailed examples for implementing neural networks and deep architectures. It also provides practical guidance on exporting model parameters to JSON and wrapping trained models in web APIs for produ

    Provides a workflow for evaluating accuracy and tuning hyperparameters to improve the reliability of model predictions.

    Jupyter Notebook
    Auf GitHub ansehen↗12,614
  • autogluon/autogluonAvatar von autogluon

    autogluon/autogluon

    9,997Auf GitHub ansehen↗

    AutoGluon is an automated machine learning framework and multimodal library designed to automate the end-to-end pipeline from data preprocessing to high-accuracy model training and validation. It functions as an automated model trainer for tabular, image, text, and time series data, as well as a tool for time series forecasting and foundation model finetuning. The project is distinguished by its ability to jointly process and fuse different data types, allowing for the construction of multimodal neural networks that integrate images, text, and structured tables. It supports zero-shot inferenc

    Compares predicted probabilities and labels against ground truth data to generate comprehensive performance reports.

    Pythonautogluonautomated-machine-learningautoml
    Auf GitHub ansehen↗9,997
  • yzhao062/pyodAvatar von yzhao062

    yzhao062/pyod

    9,878Auf GitHub ansehen↗

    PyOD is a Python anomaly detection library used to identify outliers in tabular, time series, graph, text, and image data. It provides a collection of algorithms for detecting anomalous data points and includes a unified detector interface that standardizes input and output signatures across its available detection algorithms. The project features a multi-modal outlier detector for identifying anomalies across diverse formats including unstructured text and images, as well as a specialized toolkit for graph-based and time-series anomaly detection. It includes an ensemble framework for combini

    Quantifies detection accuracy by comparing predicted outlier scores against ground truth labels.

    Pythonagentic-aianomaly-detectiondata-mining
    Auf GitHub ansehen↗9,878
  • pymc-devs/pymcAvatar von pymc-devs

    pymc-devs/pymc

    9,650Auf GitHub ansehen↗

    PyMC is a Bayesian probabilistic programming framework used for building probabilistic models and performing Bayesian inference. It provides a probabilistic graphical model library for specifying random variables, priors, and likelihood functions, supported by an MCMC sampling engine and variational inference tools to estimate posterior distributions. The framework features a GPU-accelerated inference backend that compiles models into machine code to increase execution speed. It utilizes a backend-agnostic tensor execution model and just-in-time graph compilation to optimize the computation o

    Evaluates model fit by comparing observed data to simulated data from prior and posterior distributions.

    Pythonbayesian-inferencemcmcprobabilistic-programming
    Auf GitHub ansehen↗9,650
  • facebookresearch/maskrcnn-benchmarkAvatar von facebookresearch

    facebookresearch/maskrcnn-benchmark

    9,370Auf GitHub ansehen↗

    This project is a modular PyTorch framework for training and evaluating object detection and instance segmentation models. It serves as a computer vision research tool and a deep learning inference engine designed to identify object locations, classes, and pixel-level masks within images. The framework implements a two-stage inference pipeline that utilizes region proposal networks and a symmetric mask-head architecture. It provides specialized capabilities for instance segmentation, object bounding box detection, and human pose estimation via anatomical keypoint detection. The system includ

    Computes performance metrics by matching model predictions against ground truth data from standard datasets.

    Python
    Auf GitHub ansehen↗9,370
  • vowpalwabbit/vowpal_wabbitAvatar von VowpalWabbit

    VowpalWabbit/vowpal_wabbit

    8,683Auf GitHub ansehen↗

    Vowpal Wabbit is an open-source machine learning system designed for online learning, where models update incrementally from streaming data without requiring full retraining. It provides a reduction-based learning framework that composes complex tasks from simpler algorithms, and includes a feature hashing trick that maps unbounded feature names into a fixed-size vector space to keep memory usage constant regardless of dataset size. The system supports distributed training across a cluster using an allreduce protocol for synchronized updates, and offers an active learning query strategy that s

    Evaluates and contrasts outputs of different trained models on the same input data.

    C++active-learningc-plus-pluscontextual-bandits
    Auf GitHub ansehen↗8,683
  • casia-lmc-lab/fastsamAvatar von CASIA-LMC-Lab

    CASIA-LMC-Lab/FastSAM

    8,364Auf GitHub ansehen↗

    FastSAM is an image segmentation framework that uses convolutional neural networks to isolate visual elements and generate masks for detectable objects within images. It provides a system for both automatic all-object segmentation and promptable image segmentation. The project utilizes an inference-optimized architecture to reduce computational overhead, enabling faster mask generation and real-time visual analysis. It supports the creation of precise masks through various prompt inputs, including points, bounding boxes, and text descriptions. The framework covers broader computer vision cap

    Includes utilities to evaluate segmentation accuracy by comparing model predictions against ground-truth benchmark datasets.

    Python
    Auf GitHub ansehen↗8,364
  • tingsongyu/pytorch_tutorialAvatar von TingsongYu

    TingsongYu/PyTorch_Tutorial

    8,018Auf GitHub ansehen↗

    This project is a comprehensive collection of educational examples and reference implementations for building vision and language models using PyTorch. It serves as a deep learning tutorial covering the end-to-end process of developing neural networks, from initial architecture definition to final production deployment. The repository provides detailed guides on implementing a wide range of domain-specific models, including convolutional neural networks for object detection and segmentation, as well as transformer and recurrent architectures for natural language processing. It emphasizes gene

    Compares model outputs against ground truth labels using F1 scores to generate performance reports.

    Python
    Auf GitHub ansehen↗8,018
  • evidentlyai/evidentlyAvatar von evidentlyai

    evidentlyai/evidently

    7,137Auf GitHub ansehen↗

    Evidently is an AI observability platform and evaluation framework designed to quantify the performance of machine learning models and large language models. It functions as a monitoring tool for detecting data drift and quality degradation in tabular datasets, while providing a specialized analyzer for the faithfulness and correctness of retrieval augmented generation systems. The project distinguishes itself through an evaluation framework that utilizes judge models and custom rubrics to score language model outputs. It includes tools for iterative prompt optimization and the generation of

    Compares model predictions against ground truth labels to calculate accuracy for classification and regression tasks.

    Jupyter Notebookdata-driftdata-qualitydata-science
    Auf GitHub ansehen↗7,137
  • princewen/tensorflow_practiceAvatar von princewen

    princewen/tensorflow_practice

    7,009Auf GitHub ansehen↗

    This repository is a collection of practical deep learning implementations and examples built using the TensorFlow framework. It provides a variety of neural network architectures focusing on natural language processing, recommendation systems, reinforcement learning, and time series prediction. The project features a range of specialized models, including sequence-to-sequence and transformer architectures for text processing, and factorization machines for personalized ranking and retrieval. It also includes implementations of reinforcement learning agents using actor-critic and policy gradi

    Implements systems for comparing model predictions against ground truth to evaluate predictive accuracy.

    Python
    Auf GitHub ansehen↗7,009
  • open-compass/opencompassAvatar von open-compass

    open-compass/opencompass

    6,678Auf GitHub ansehen↗

    OpenCompass is an open-source framework for standardized benchmarking of large language models. It provides a configurable evaluation pipeline that supports both objective and subjective assessment, using a dual-engine architecture to handle closed-form answer comparison and open-ended response rating. The framework is designed as a modular platform where datasets, models, and metrics are composed through declarative YAML configuration files. The framework distinguishes itself through its extensible model integration layer, which supports custom models, HuggingFace models, and third-party API

    Compares model predictions against ground-truth answers using discriminative and generative methods with prompt engineering.

    Pythonbenchmarkchatgptevaluation
    Auf GitHub ansehen↗6,678
  • kserve/kserveAvatar von kserve

    kserve/kserve

    5,576Auf GitHub ansehen↗

    KServe is a Kubernetes-native platform for deploying and serving machine learning models as scalable inference services. It supports both generative AI models, including large language models, and traditional predictive models from frameworks such as TensorFlow, PyTorch, Scikit-Learn, XGBoost, and ONNX. The platform manages the full lifecycle of model deployments, including revision tracking, canary rollouts, A/B testing, and automatic rollbacks, and provides serverless scale-to-zero capabilities for cost-efficient resource management. KServe distinguishes itself through a standardized infere

    Configures autoscaling thresholds and batch settings to improve throughput and cost efficiency for fixed-size prediction workloads.

    Go
    Auf GitHub ansehen↗5,576
  • obss/sahiAvatar von obss

    obss/sahi

    5,372Auf GitHub ansehen↗

    SAHI ist ein Sliced-Inference-Framework und eine Computer-Vision-Pipeline, die entwickelt wurde, um kleine Objekte in hochauflösenden Bildern zu erkennen. Es bietet ein System zur Unterteilung großer Bilder in überlappende Patches, um den Detailverlust zu verhindern, der typischerweise bei der Standard-Modell-Herunterskalierung auftritt, sowie ein Bild-Tiling-Dienstprogramm und ein COCO-Datensatz-Toolkit. Das Projekt zeichnet sich durch einen modellagnostischen Vorhersage-Wrapper aus, der verschiedene Machine-Learning-Frameworks in eine einheitliche Schnittstelle standardisiert. Dies ermöglicht die Implementierung von Sliced Inference und Objekterkennung über verschiedene Modell-Backends hinweg bei gleichzeitiger Beibehaltung eines konsistenten Ausgabeformats. Über die Inferenz hinaus deckt das Framework das Datensatzmanagement für COCO- und YOLO-Formate ab, einschließlich Tools für annotiertes Bild-Slicing, Kategorien-Remapping und Datensatz-Zusammenführung. Es enthält zudem eine Suite zur Bewertung und Überwachung der Modellleistung, mit Metrikberechnung für Präzision und Recall, Erkennungsfehleranalyse und Ergebnisvisualisierung. Das Toolset ist über eine Befehlszeilenschnittstelle zugänglich, um Inferenz-Workflows über Bildverzeichnisse und Videostreams hinweg zu automatisieren.

    Calculates precision and recall metrics and generates error analysis plots by comparing predictions against ground truth.

    Python
    Auf GitHub ansehen↗5,372
  • amdegroot/ssd.pytorchAvatar von amdegroot

    amdegroot/ssd.pytorch

    5,224Auf GitHub ansehen↗

    Dies ist ein PyTorch-Objekterkennungs-Framework, das den Single Shot MultiBox Detector (SSD) zur Identifizierung und Lokalisierung mehrerer Objekte innerhalb von Bildern und Videos implementiert. Das Projekt bietet eine neuronale Netzwerkarchitektur, die für Single-Shot-Objekterkennung konzipiert ist und Begrenzungsrahmen (Bounding Boxes) sowie Klassen-Labels in einem Durchgang vorhersagt. Die Implementierung umfasst einen Echtzeit-Objekterkenner, der in der Lage ist, Live-Videostreams zu verarbeiten, um Objekte über aufeinanderfolgende Frames hinweg zu verfolgen und zu labeln. Es enthält zudem eine vollständige Computer-Vision-Trainingspipeline zur Vorbereitung von Bilddatensätzen und zum Training von Modellgewichten. Das Framework deckt den End-to-End-Workflow für Vision-Aufgaben ab, einschließlich Datensatz-Laden, Deep-Learning-Modelltraining mit Hardwarebeschleunigung sowie quantitative Leistungsbewertung mittels dedizierter Metriken und Skripte.

    Includes evaluation scripts to measure the accuracy of predicted bounding boxes against ground truth.

    Pythoncomputer-visiondeep-learningimage-recognition
    Auf GitHub ansehen↗5,224
  • open-mmlab/mmaction2Avatar von open-mmlab

    open-mmlab/mmaction2

    5,066Auf GitHub ansehen↗

    mmaction2 ist eine PyTorch-Toolbox für das Videoverständnis, die für das Training und die Evaluierung von Deep-Learning-Modellen entwickelt wurde. Sie dient als Framework für Aktionserkennung, zeitliche Lokalisierung und räumlich-zeitliche Aktionserkennung und bietet spezialisierte Tools sowohl für pixelbasierte Videoanalyse als auch für skelettbasierte Aktionserkennung. Das Projekt zeichnet sich durch eine modulare Architektur mit registerbasierter Komponentenerkennung und hierarchischem, konfigurationsgesteuertem Modell-Assembly aus. Es unterstützt multimodale Feature-Fusion, integriert RGB-Frames, optischen Fluss und Audio und enthält Funktionen für Text-zu-Video-Clip-Retrieval und Zero-Shot-Videovorhersage. Das Framework deckt breit gefächert das Video-Dataset-Engineering ab, einschließlich Annotationsstandardisierung und Frame-Sampling, sowie umfassendes Modelltraining und -evaluierung. Es bietet Dienstprogramme für verteiltes Training, Knowledge Distillation und Inferenzoptimierung durch Modell-Reparametrisierung. Die Codebasis unterstützt den ONNX-Modell-Export und die Containerisierung der Umgebung für das Deployment über verschiedene Rechenknoten hinweg.

    Measures model performance for action detection using mean average precision and temporal IoU thresholds.

    Python
    Auf GitHub ansehen↗5,066
  • rafaelpadilla/object-detection-metricsAvatar von rafaelpadilla

    rafaelpadilla/Object-Detection-Metrics

    5,098Auf GitHub ansehen↗

    This project is an object detection evaluation library and benchmarking tool designed to calculate precision, recall, and average precision for computer vision models. It provides a suite of utilities for parsing bounding box coordinates from text files and calculating spatial overlap to determine detection accuracy. The toolkit features a command line interface for comparing ground truth files against model predictions. It includes a precision-recall curve generator to visualize the relationship between precision and recall across different confidence thresholds and an intersection over unio

    Measures the accuracy of computer vision models by comparing predicted bounding boxes against ground truth labels.

    Pythonaverage-precisionbounding-boxesmean-average-precision
    Auf GitHub ansehen↗5,098
  • fastai/course-v3Avatar von fastai

    fastai/course-v3

    4,914Auf GitHub ansehen↗

    Dieses Projekt ist ein umfassendes Bildungsprogramm und Deep-Learning-Framework, das darauf ausgelegt ist, praktisches Deep Learning mit PyTorch anhand von Notebooks und Codebeispielen zu vermitteln. Es dient als High-Level-Bibliothek zum Erstellen, Trainieren und Bereitstellen neuronaler Netze und fungiert als Modell-Trainings-Orchestrator, der PyTorch-Modelle, Optimierer und Verlustfunktionen koordiniert. Das Projekt bietet spezialisierte Toolkits für Computer Vision, Natural Language Processing und die Vorverarbeitung tabellarischer Daten. Es zeichnet sich durch fortschrittliche Trainingskontrollen aus, wie z. B. diskriminative Lernraten, ein Zwei-Wege-Callback-System zur Anpassung der Trainingslogik und eine High-Level-Learner-Abstraktion, die die Geräteplatzierung und Trainingsschleifen automatisiert. Das Framework deckt ein breites Fähigkeitsspektrum ab, einschließlich der automatisierten Konstruktion von Datenpipelines, der Analyse von Modellarchitekturen und der Leistungsbewertung bei Klassifizierungs-, Regressions- und Segmentierungsaufgaben. Es enthält zudem Dienstprogramme für verteiltes Training über mehrere GPUs, Mixed-Precision-Training zur Speicheroptimierung und spezialisierte Unterstützung für medizinische Bilddaten. Das Projekt wird als eine Reihe von Jupyter Notebooks bereitgestellt.

    fastai evaluates trained models by generating inputs, predictions, and losses on the fly to explore performance.

    Jupyter Notebookdata-sciencedeep-learningfastai
    Auf GitHub ansehen↗4,914
  • blei-lab/edwardAvatar von blei-lab

    blei-lab/edward

    4,841Auf GitHub ansehen↗

    Edward ist eine probabilistische Programmiersprache und Inference-Engine für den Aufbau tiefer generativer Modelle und Bayes'scher neuronaler Netze. Es nutzt das TensorFlow-Framework, um probabilistische Modelle als differenzierbare Berechnungsgraphen darzustellen. Die Bibliothek ermöglicht die Konstruktion komplexer Datenverteilungen durch Bayes'sche neuronale Netze, Mischmodelle und Gauß-Prozesse. Sie zeichnet sich durch ein integriertes Toolkit für überwachtes und unüberwachtes probabilistisches Modellieren aus, einschließlich der Implementierung von Generative Adversarial Networks (GANs) und Mixture Density Networks. Das Framework deckt eine breite Palette an Inferenzmethoden ab, darunter amortisierte variationelle Inferenz, Gibbs-Sampling und Maximum-a-posteriori-Schätzung. Zudem enthält es eine umfassende Suite an Tools zur Modellevaluierung für Posterior Predictive Checking, Residualanalyse und Parametervalidierung, um die Modellgüte und Vorhersagegenauigkeit zu diagnostizieren. Das System unterstützt skalierbares Training durch Batch- und Minibatch-Verarbeitung sowie integrierte Funktionen zur Überwachung des Trainingsfortschritts und zur Visualisierung von Ausführungsgraphen.

    Analyzes model fit by comparing test statistics from generated data against real observed data.

    Jupyter Notebookbayesian-methodsdata-sciencedeep-learning
    Auf GitHub ansehen↗4,841
  • weiliu89/caffeAvatar von weiliu89

    weiliu89/caffe

    4,800Auf GitHub ansehen↗

    Caffe ist ein leistungsstarkes Deep-Learning-Framework und eine Bibliothek für Convolutional Neural Networks, die für das Training und Deployment neuronaler Netze entwickelt wurde. Es fungiert als GPU-beschleunigte Machine-Learning-Engine mit einem in C++ implementierten Kern, um Tensor-Operationen mit hohem Durchsatz zu ermöglichen. Das Projekt nutzt ein deklaratives Konfigurationssystem, bei dem Modellarchitekturen und Hyperparameter in externen Textdateien definiert werden, wodurch das Netzwerkdesign vom Ausführungscode getrennt wird. Es enthält ein Modell-Serialisierungssystem, um trainierte Gewichte und Topologien für ein effizientes Deployment in verschiedenen Hardwareumgebungen in Binärdateien zu exportieren. Das Framework deckt ein breites Spektrum an Funktionen ab, einschließlich des Designs neuronaler Netzwerkarchitekturen, des überwachten Modelltrainings mit gradientenbasierter Optimierung und Workflows für die Bildklassifizierung. Es bietet Tools für die Dataset-Vorverarbeitung, die Extraktion neuronaler Features und das Fine-Tuning vortrainierter Modelle. Der C++-Kern ist über eine mehrsprachige Schnittstelle mit offiziellen Bindings für Python und MATLAB zugänglich.

    Improves processing speed through batch settings and hardware acceleration to increase inference throughput.

    C++
    Auf GitHub ansehen↗4,800
  • pytorch/igniteAvatar von pytorch

    pytorch/ignite

    4,770Auf GitHub ansehen↗

    Ignite ist ein High-Level-Trainings-Framework für PyTorch-Neuronale Netze, das als Trainings-Engine und Deep-Learning-Lifecycle-Manager dient. Es bietet ein strukturiertes System zur Organisation und Automatisierung von Trainings- und Evaluierungsschleifen, verwaltet Daten-Iteratoren und löst Event-Handler bei bestimmten Meilensteinen während des Modelltrainings aus. Das Projekt zeichnet sich durch eine umfassende Suite von Tools für verteiltes Training und Modellevaluierung aus. Es enthält Dienstprogramme zur Synchronisierung von Gradienten und zur Koordination kollektiver Kommunikation über mehrere GPUs oder Knoten hinweg sowie eine Evaluierungssuite zur Berechnung von Leistungsmetriken und zur Durchführung von k-facher Kreuzvalidierung. Die breiteren Funktionen umfassen die Automatisierung von Trainings-Workflows, einschließlich Learning-Rate-Scheduling, Early Stopping und Hyperparameter-Optimierung. Das Framework bietet zudem Observability-Tools für Experiment-Tracking, Profiling der Ausführungszeit und Mixed-Precision-Training zur Optimierung der Speicherauslastung. Mechanismen zur Statuspersistenz sind enthalten, um Modell-Checkpoints zu verwalten und Trainingssitzungen wiederherzustellen. Containerisierte Umgebungen sind verfügbar, um die Bereitstellung und Einrichtung zu vereinfachen.

    Processes data batches in evaluation mode to generate predictions and labels without computing gradients.

    Python
    Auf GitHub ansehen↗4,770
Vorherige12Nächste
  1. Home
  2. Artificial Intelligence & ML
  3. Model Prediction Evaluation

Unter-Tags erkunden

  • Agent Prediction EvaluationsEvaluates batches of agent predictions against expected results to determine correctness using configurable judging methods. **Distinct from Model Prediction Evaluation:** Distinct from Model Prediction Evaluation: focuses on evaluating agent trajectories and tool-call sequences, not general ML model outputs.
  • Batch Prediction AnalyzersGenerates predictions, targets, decoded outputs, and losses on the fly using batch processing to interpret model behavior. **Distinct from Model Prediction Evaluation:** Distinct from Model Prediction Evaluation: focuses on generating and analyzing predictions during batch processing, not just comparing against ground truth.
  • Distribution AnalysisVisual and statistical analysis of predicted distributions to verify data pattern capture. **Distinct from Model Prediction Evaluation:** Distinct from general prediction evaluation by focusing on density plots and sampling from the learned distributions.
  • Generative Model Criticism1 Sub-TagEvaluating if a generative model captures the underlying data generating process through fit and predictive performance analysis. **Distinct from Model Prediction Evaluation:** Focuses on 'criticism' (determining if the model process is correct) rather than just calculating prediction error against labels.
  • Metric Selection GuidesGuidance for choosing evaluation metrics like MAPE when predictions must stay within a percentage of actual values. **Distinct from Model Prediction Evaluation:** Distinct from Model Prediction Evaluation: provides prescriptive guidance on metric selection rather than systems for comparing outputs against ground truth.
  • Object Detection Evaluators1 Sub-TagSpecialized tools for comparing predicted bounding boxes against ground truth to report detection accuracy. **Distinct from Model Prediction Evaluation:** Focuses specifically on the evaluation of bounding boxes, while the parent is a general prediction evaluator.
  • Posterior Predictive ChecksThe process of validating a model by comparing observed data to simulated data from the posterior. **Distinct from Model Prediction Evaluation:** Specifically refers to Bayesian predictive checking, distinct from general ML prediction evaluation against ground truth.
  • Prediction Interval Reliability AnalysisEvaluation of the statistical reliability of prediction intervals using nonconformity scores. **Distinct from Model Prediction Evaluation:** Distinct from general model prediction evaluation as it specifically assesses the reliability of the uncertainty intervals themselves.
  • Predictive Power Optimizations1 Sub-TagImprovement of model fit through feature engineering and addressing multicollinearity. **Distinct from Model Prediction Evaluation:** Focuses on the active improvement of a model's predictive power rather than the static evaluation of a prediction.
  • Predictive Reliability TuningsProcesses for adjusting model hyperparameters specifically to increase the consistency and reliability of predictions. **Distinct from Model Prediction Evaluation:** Focuses on the iterative tuning for reliability, whereas Model Prediction Evaluation is the measurement of that reliability.