microsoft/Foundry-Local
Foundry Local
Foundry-Local هي أداة تطوير للتعلم الآلي مصممة لتسهيل الاستدلال الخاص على الجهاز وإدارة النماذج. توفر بيئة خادم محلية تستضيف نماذج التعلم الآلي مباشرة على أجهزة المستخدم، مما يضمن بقاء جميع عمليات معالجة البيانات، بما في ذلك معالجة المطالبات وتحويل الكلام إلى نص، داخل البيئة المحلية دون الحاجة إلى اتصال سحابي خارجي.
يتميز المشروع بأتمتة دورة حياة النموذج بالكامل، بما في ذلك اكتشاف الأصول وتنزيلها وإصدارها للحفاظ على التوافق مع أجهزة المضيف. يتميز المشروع بطبقة تجريد للأجهزة تكتشف تلقائياً وتختار المعالج المتاح الأكثر كفاءة للمهام المكثفة حسابياً، مما يسمح بالتنفيذ المسرع بالأجهزة دون تكوين يدوي.
بعيداً عن الاستدلال الأساسي، تتضمن الأداة واجهة سطر أوامر لاستكشاف النماذج التفاعلي والتحقق من الأداء. كما توفر وكيل API قياسي، يقوم بتعيين الطلبات الواردة إلى نقاط نهاية النموذج المحلي باستخدام بروتوكولات قياسية في الصناعة لدعم التكامل مع أطر عمل البرمجيات الخارجية.
Features
- Local Model Execution - Runs machine learning models directly on local hardware to ensure complete data privacy and offline functionality.
- Machine Learning Model APIs - Runs machine learning models directly on local hardware to ensure fast performance and complete data privacy while working offline.
- Local AI Inference - Executes machine learning models directly on the user device to ensure data privacy and offline functionality.
- Local LLM API Servers - Provides a local API server that runs machine learning models on-device for private, hardware-accelerated inference.
