3 مستودعات
Awesome GitHub RepositoriesAI Workflow Serving
Infrastructure for exposing AI orchestration workflows as accessible web services.
Distinct from AI Services: Focuses on serving the orchestration workflow itself rather than individual model inference or general AI services
Explore 3 awesome GitHub repositories matching artificial intelligence & ml · AI Workflow Serving. Refine with filters or upvote what's useful.
Awesome AI Workflow Serving GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- microsoft/jarvis
microsoft/JARVIS
24,854عرض على GitHubJARVIS is a system for large language model task orchestration, deployment management, and automation benchmarking. It utilizes a task orchestrator to decompose complex requests into actionable steps and coordinates various expert models to synthesize final responses. The project includes an AI model deployment manager to handle the local deployment of expert models across different hardware scales. It further provides an AI workflow API consisting of web endpoints used to trigger automated task workflows and retrieve results from model selection stages. The framework incorporates an automat
Creates web endpoints to trigger AI workflows and retrieve intermediate results from model selection stages.
Python - azure/mmlspark
Azure/mmlspark
5,228عرض على GitHubMmlspark هو إطار عمل موزع لتنفيذ نماذج تعلم الآلة، وتحويلات البيانات، وتكاملات خدمات الذكاء الاصطناعي عبر مجموعات Apache Spark. يعمل كمكتبة تعلم آلة موزعة ومنسق خط أنابيب، مما يسمح للمستخدمين بدمج الخدمات المعرفية المدربة مسبقاً والنماذج المخصصة في سير عمل الدفعات والتدفق واسع النطاق. يتميز المشروع بقدرته على دمج خدمات الذكاء الاصطناعي الخارجية وواجهات برمجة تطبيقات الويب مباشرة في خطوط أنابيب البيانات الضخمة لتحليل النصوص والرؤية. يوفر إطار عمل تدريب نموذج قابل للتوسع ينسق مهام تعزيز التدرج والتصنيف عبر مجموعات حوسبة قابلة للتغيير الحجم بمرونة، مستفيداً من تسريع الأجهزة لاستدلال النموذج الموزع. تغطي مجموعة الأدوات مجموعة واسعة من القدرات بما في ذلك تحليل المحتوى متعدد الوسائط للصور والكلام والنصوص، بالإضافة إلى الكشف المتقدم عن الشذوذ للسلاسل الزمنية والبيانات متعددة المتغيرات. تتضمن أدوات لتهيئة البيانات، وتنفيذ نماذج ONNX، وأدوات الذكاء الاصطناعي المسؤول لتدقيق عدالة النموذج وتفسير التنبؤ باستخدام قيم المساهمة المضافة. يوفر إطار العمل أيضاً واجهة وصول موحدة للبيانات للقراءة والكتابة عبر قواعد بيانات وأنظمة تخزين سحابية متنوعة.
Exposes distributed computations as low-latency web services for real-time inference.
Scala - beclab/olares
beclab/Olares
4,086عرض على GitHubOlares is a comprehensive suite of self-hosted identity, storage, AI, and orchestration services designed for private infrastructure management. It functions as a Kubernetes home server orchestrator, enabling the deployment of containerized applications, AI models, and GPU resources on local hardware to replace third-party cloud services. The platform distinguishes itself through a combination of self-hosted AI infrastructure for running large language models and image generators, alongside a decentralized identity manager that uses cryptographic keys and OIDC for trustless authentication. It
Hosts AI models to coordinate complex agent tasks and provide retrieval-augmented generation as a web service.
Goai-agentsai-privacyedge-ai
