14 مستودعات
Conversion of various TensorFlow model formats into optimized representations for inference.
Distinct from Model Conversion: Specifically targets TensorFlow models rather than generic model conversion.
Explore 14 awesome GitHub repositories matching devops & infrastructure · TensorFlow. Refine with filters or upvote what's useful.
TensorFlow.js is a JavaScript machine learning library used for training and deploying models in web browsers and server-side environments. It functions as a browser-based model trainer, a WebAssembly inference engine, and a WebGPU accelerated tensor library for low-level linear algebra. The project also includes a model converter to transform Python-based models into optimized formats for JavaScript execution. The library distinguishes itself through a pluggable backend architecture that allows mathematical operations to be executed via CPU, WebGL, or WebGPU. It supports the conversion of Py
Provides a WebAssembly runtime for executing model inference with near-native CPU performance in browsers.
This project is a collection of pre-trained machine learning models and conversion pipelines designed for running inference directly in the browser using TensorFlow.js. It provides a library of ready-to-use models for computer vision, audio classification, and natural language processing tasks. The suite includes specialized tools for transforming Python-based Keras models into JSON formats compatible with web environments. It enables the deployment of these models by fetching architectures and weight shards via HTTP for client-side execution. The project covers a broad range of capabilities
Converts and loads pretrained Python models into a browser for real time inference and evaluation.
WasmEdge is an extensible WebAssembly runtime that executes WebAssembly bytecode in a secure sandbox for cloud, edge, and embedded applications. It functions as a multi-language compiler, compiling applications written in Rust, JavaScript, Go, and Python into WebAssembly bytecode for sandboxed execution, and as a server-side JavaScript runtime that runs JavaScript programs with ES6 modules, NPM packages, and Node.js-compatible APIs. The runtime also serves as an AI inference runtime, executing AI models from JavaScript using WASI-NN plug-ins for inference tasks on personal devices and edge har
Runs TensorFlow and TensorFlow Lite model inference using a dedicated plug-in and Rust SDK for tensor input and output.
OpenVINO is an AI inference engine and model serving platform designed to execute optimized deep learning models across CPUs, GPUs, and NPUs through a unified API. It includes a model optimization toolkit for converting, quantizing, and compressing models from various frameworks, alongside a specialized generative AI runtime for large language models. The project distinguishes itself through a plugin-based hardware acceleration layer that maps neural network operations to vendor-specific drivers. It features advanced execution mechanisms such as continuous batching, speculative decoding, and
Transforms models from various TensorFlow formats into an optimized representation for inference.
tflearn is a deep learning framework and high-level API wrapper for TensorFlow. It provides a toolkit for designing neural network architectures and a system for executing training loops and optimizing model weights across CPUs and GPUs. The project simplifies the process of building and training models through a modular interface and a high-level API for prototyping. It includes specialized utilities for deep learning visualization, allowing for the generation of graphical diagrams to analyze network structures, weights, gradients, and activations. The framework covers a broad range of capa
Connects high-level layers and trainers with low-level computational graphs to build complex machine learning workflows.
tensorrtx is a computer vision inference engine and model implementation library designed for graphics processor acceleration. It provides a framework for optimizing deep learning models through a GPU inference optimizer, a deep learning model converter for transforming weights from frameworks like TensorFlow and PyTorch, and a custom plugin library to implement operations not natively supported by the TensorRT API. The project distinguishes itself through a comprehensive collection of pre-defined network implementations, ranging from various YOLO versions and DETR transformers for object det
Converts TensorFlow model formats into optimized representations for C++ inference execution.
yolotf هو إطار عمل لاكتشاف الكائنات يوفر أدوات لتحويل إعدادات وأوزان نماذج Darknet إلى رسوم بيانية في TensorFlow. يتضمن مدرب نماذج TensorFlow لتدريب نماذج اكتشاف جديدة أو ضبط الأوزان الموجودة بدقة باستخدام مجموعات بيانات مخصصة. يتميز المشروع بمصدر نماذج للأجهزة المحمولة يقوم بتسلسل تعريفات الرسوم البيانية والبيانات الوصفية في ملفات protobuf للنشر على الأجهزة المحمولة. يدعم إطار العمل استدلال اكتشاف الكائنات على الصور والفيديو لتحديد الكائنات وتصدير إحداثيات مربعات الإحاطة. يدير حالة النموذج من خلال ترجمة تعيين الأوزان والتدريب القائم على نقاط الفحص للسماح باستعادة الأوزان وحالات المحسن.
Translates model configurations and weights from Darknet format into TensorFlow graphs.
Darkflow هو إطار عمل لاكتشاف الكائنات وخط أنابيب للرؤية الحاسوبية يوفر واجهة برمجية لإجراء تحليل الصور وتحديد الكائنات في الوقت الفعلي. يعمل كأداة لتحميل الأوزان، وضبط النماذج بدقة، وتنفيذ الاستدلال (inference) على كل من الصور الثابتة وموجزات الفيديو. يعمل المشروع كمحول يترجم إعدادات وأوزان Darknet إلى رسوم بيانية (graphs) في TensorFlow لتمكين إعادة التدريب والنشر. يتضمن مصدراً للنماذج يحفظ الرسوم البيانية المدربة في ملفات protobuf محمولة للاستخدام على الأجهزة المحمولة والأجهزة الأصلية. يغطي النظام قدرات تدريب وضبط نماذج الاكتشاف بدقة على مجموعات بيانات مخصصة، مع ميزات نقاط فحص التقدم لاستعادة التدريب. كما يوفر أدوات لترجمة تعيين الأوزان ومعالجة بيانات الصور الخام من خلال عمليات الموتر (tensor) لإنتاج مربعات الإحاطة ودرجات الثقة.
Translates Darknet configurations and weights into TensorFlow graphs for retraining and deployment.
MMdnn هو محول ونظام ترحيل لنماذج التعلم العميق، مصمم لنقل معماريات الشبكات العصبية وأوزانها بين أطر عمل مختلفة مثل TensorFlow وPyTorch وKeras. يستخدم MMdnn تمثيلاً وسيطاً موحداً لفصل هياكل الشبكة وأوزانها عن تطبيقات أطر العمل المحددة، مما يتيح تحويل النماذج المدربة مسبقاً عبر بيئات مختلفة. يتميز المشروع بقدرته على توليد كود Python أصلي لإعادة بناء النماذج من تمثيلاتها الوسيطة، مما يسمح بإعادة بناء النماذج وضبطها بدقة في البيئات المستهدفة. كما يتضمن أدوات متخصصة لنشر النماذج على الأجهزة المحمولة، حيث يحول نماذج التعلم العميق إلى صيغ متوافقة مع الهواتف مثل CoreML وTensorFlow Lite. يوفر النظام مجموعة واسعة من القدرات تشمل تصور معمارية الشبكات العصبية لفحص هياكل الرسوم والبيانات الوصفية، بالإضافة إلى تنفيذ استدلال النماذج للتحقق من أن النماذج المحولة تحافظ على سلوكها ودقتها الأصلية. كما تعالج الأدوات المساعدة استرجاع الأوزان المدربة مسبقاً من المستودعات البعيدة وتجميع نقاط فحص النماذج القابلة للنشر.
Runs inference tests on converted models to verify that the migration preserved the original behavior and accuracy.
هذا المشروع عبارة عن مورد تعليمي شامل ودورة تدريبية لبناء الشبكات العصبية باستخدام PyTorch. يغطي اللبنات الأساسية للتعلم العميق، بما في ذلك معالجة الموترات (tensors)، والتمايز التلقائي، وبناء مكونات الشبكة العصبية المعيارية. يعمل المستودع كدليل تقني للعديد من المجالات المتخصصة. يوفر تفاصيل تنفيذ لمهام رؤية الكمبيوتر مثل تصنيف الصور، واكتشاف الكائنات، والتجزئة الدلالية، بالإضافة إلى سير عمل معالجة اللغات الطبيعية التي تتضمن المحولات (transformers)، والشبكات المتكررة، والنماذج التوليدية. بالإضافة إلى ذلك، يتضمن مرجعاً للذكاء الاصطناعي التوليدي، مع التركيز بشكل خاص على تركيب الصور عبر نماذج الانتشار (diffusion models) والشبكات التنافسية. تمتد المادة إلى تحسين النماذج وخطوط أنابيب النشر. تغطي تقنيات لتقليل حجم النموذج وزيادة سرعة الاستنتاج من خلال التكميم (quantization) وتصدير النماذج إلى تنسيقات مثل ONNX وTensorRT. تشمل مجالات القدرة الأخرى هندسة البيانات للتحميل المتوازي، وتقييم النموذج باستخدام مقاييس مخصصة، ونشر نماذج اللغات الكبيرة مفتوحة المصدر. يتم تقديم المشروع بشكل أساسي كسلسلة من دفاتر Jupyter.
Provides workflows for converting PyTorch models to standardized formats like ONNX for cross-framework deployment.
هذا المشروع هو تنفيذ PyTorch لإطار عمل اكتشاف الكائنات YOLOv4. يوفر نظاماً لتدريب ونشر الشبكات العصبية التي تحدد وتحدد مواقع كائنات متعددة داخل الصور وتدفقات الفيديو. يتضمن إطار العمل أدوات لتحويل الأوزان المدربة إلى تنسيقات عالمية ومحركات محسنة خاصة بالأجهزة، مع دعم محدد لـ ONNX وTensorRT. يتميز بمحسن استنتاج TensorRT لتقليل زمن الوصول وزيادة الإنتاجية، بالإضافة إلى بنية نموذج متوافقة مع خطوط أنابيب تحليلات البث NVIDIA DeepStream. يغطي النظام تدريب النموذج مع زيادة بيانات الفسيفساء (Mosaic) ويدعم اكتشاف الكائنات في الوقت الفعلي عبر محركات استنتاج متعددة. يوفر أدوات لتحويل النموذج إلى TensorFlow ويدعم تكوينات الدفعات الثابتة والديناميكية للنشر.
Includes utilities for translating model architectures into compatible representations for TensorFlow deployment.
هذا المشروع هو إطار عمل تعلم تبايني ذاتي الإشراف مصمم لتدريب نماذج التعلم العميق لتعلم تمثيلات مرئية من الصور دون استخدام تسميات مقدمة من البشر. يوفر نظاماً لتطوير نماذج تمثيل مرئي مدربة مسبقاً يمكن تكييفها لمهام رؤية الكمبيوتر اللاحقة. يتضمن إطار العمل أدوات لتصنيف الصور شبه الخاضع للإشراف، والذي يجمع بين مجموعات بيانات كبيرة غير مصنفة ومجموعات صغيرة مصنفة لتحسين الدقة. كما يتميز بأداة تقييم مسبار خطي لتقييم جودة ميزات الصورة المتعلمة عن طريق تدريب مصنف خطي بسيط فوق التمثيلات المجمدة. يغطي الكود البرمجي تدريب التعلم العميق الموزع وتسريع الأجهزة للتعامل مع أحجام دفعات كبيرة، إلى جانب بدائيات التحسين مثل جدولة معدل التعلم cosine-decay وتنظيم weight-decay. كما يوفر أدوات لإدارة النماذج، بما في ذلك تحويل نقاط التحقق المدربة مسبقاً بين تنسيقات إطار عمل التعلم العميق المختلفة وأدوات لنشر النماذج. يتم توفير التنفيذ كمجموعة من دفاتر Jupyter.
Provides utilities to translate pretrained model checkpoints between different deep learning framework formats.
ruvector هو مخزن متجهات وقاعدة بيانات رسومية مبني بلغة Rust، مصمم للاستدلال المحلي وعمليات البحث عن أقرب جار. يستخدم بنية قاعدة بيانات المتجهات الرسومية وفهرس الشبكات العصبية الرسومية لتحسين ترتيب نتائج البحث من خلال الانتباه الهيكلي. يتضمن النظام محاكي دوائر كمومية معزز بالأجهزة لتنفيذ محاكاة متجهات الحالة وأنماط البحث المعقدة، إلى جانب محرك استدلال WebAssembly لتشغيل البحث عن المتجهات وتنفيذ النماذج مباشرة داخل متصفحات الويب. يستخدم المشروع تنسيق حاوية معرفي يجمع النماذج والبيانات ونواة صغيرة قابلة للإقلاع في ملف ثنائي واحد للنشر. كما يتميز بأدوات متخصصة لتهيئة النماذج، بما في ذلك طريقة لدمج الأوزان لمنع النسيان الكارثي وآلية محول خفيفة الوزن لتكييف الأوزان بشكل فوري. يغطي النظام نطاقاً واسعاً من القدرات بما في ذلك البحث عن المتجهات المعزز بالأجهزة، والاستعلام عن العلاقات الرسومية، وتحليل المستندات العلمية لاستخراج LaTeX و MathML. كما يوفر تسلسل شهادات التشفير للتحقق من تغييرات البيانات، ومزامنة البيانات الوصفية القائمة على Raft لضمان التوافر العالي، وضغط البيانات متعدد الدقة لإدارة تكاليف التخزين.
Ships a minimal WebAssembly runtime for executing vector search and model inference in browsers.
IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis
Transforms TensorFlow modules and SavedModel files into optimized representations for inference.