2 Repos
Using binary serialization formats to export models for mobile hardware execution.
Distinct from Protobuf Serialization: Focuses on serializing the entire model graph for deployment rather than general data communication.
Explore 2 awesome GitHub repositories matching data & databases · Mobile Model Serialization. Refine with filters or upvote what's useful.
yolotf ist ein Framework für Objekterkennung, das Tools zur Konvertierung von Darknet-Modellkonfigurationen und -Gewichten in TensorFlow-Graphen bereitstellt. Es enthält einen TensorFlow-Modell-Trainer für das Training neuer Erkennungsmodelle oder das Fine-Tuning bestehender Gewichte mit benutzerdefinierten Datensätzen. Das Projekt bietet einen Mobile-Model-Exporter, der Graphdefinitionen und Metadaten in Protobuf-Dateien für das Deployment auf mobilen Geräten serialisiert. Das Framework unterstützt die Objekterkennungs-Inferenz auf Bildern und Videos, um Objekte zu identifizieren und Bounding-Box-Koordinaten zu exportieren. Es verwaltet den Modellzustand durch Weight-Mapping-Übersetzung und checkpoint-basiertes Training, um die Wiederherstellung von Gewichten und Optimizer-Zuständen zu ermöglichen.
Serializes trained model graphs and metadata into protobuf files for mobile deployment.
Doctor-Dignity is a privacy-preserving medical AI framework designed to execute large language models and diagnostic reasoning tasks locally on edge hardware. It provides a local inference engine and retrieval augmented generation implementation that ensures sensitive health data remains offline by removing dependencies on external cloud servers and internet connectivity. The project includes a medical fine-tuning framework for adapting base language models to specialized clinical domains using parameter-efficient methods. To enable execution on resource-constrained and mobile devices, it pro
Provides binary serialization formats to export neural network models for efficient execution on mobile and edge hardware.