Awesome GitHub RepositoriesAI Workflow Serving

JARVIS is a system for large language model task orchestration, deployment management, and automation benchmarking. It utilizes a task orchestrator to decompose complex requests into actionable steps and coordinates various expert models to synthesize final responses. The project includes an AI model deployment manager to handle the local deployment of expert models across different hardware scales. It further provides an AI workflow API consisting of web endpoints used to trigger automated task workflows and retrieve results from model selection stages. The framework incorporates an automat

Mmlspark Apache Spark क्लस्टर में मशीन लर्निंग मॉडल, डेटा परिवर्तन और AI सेवा एकीकरण को निष्पादित करने के लिए एक वितरित फ्रेमवर्क है। यह एक वितरित मशीन लर्निंग लाइब्रेरी और पाइपलाइन ऑर्केस्ट्रेटर के रूप में कार्य करता है, जो उपयोगकर्ताओं को बड़े पैमाने पर बैच और स्ट्रीमिंग वर्कफ़्लो में पूर्व-प्रशिक्षित संज्ञानात्मक सेवाओं और कस्टम मॉडल को एकीकृत करने की अनुमति देता है। यह प्रोजेक्ट टेक्स्ट और विज़न विश्लेषण के लिए बिग डेटा पाइपलाइनों में बाहरी AI सेवाओं और वेब API को सीधे शामिल करने की अपनी क्षमता से प्रतिष्ठित है। यह एक स्केलेबल मॉडल प्रशिक्षण फ्रेमवर्क प्रदान करता है जो ग्रेडिएंट बूस्टिंग और वर्गीकरण कार्यों को लचीले ढंग से रिसाइज़ करने योग्य कंप्यूट क्लस्टर में समन्वयित करता है, वितरित मॉडल अनुमान के लिए हार्डवेयर त्वरण का उपयोग करता है। टूलसेट छवि, भाषण और टेक्स्ट के लिए मल्टीमॉडल सामग्री विश्लेषण, साथ ही टाइम-सीरीज़ और मल्टीवेरिएट डेटा के लिए उन्नत विसंगति पहचान सहित क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। इसमें डेटा फ़ीचराइजेशन, ONNX मॉडल का निष्पादन, और योगात्मक योगदान मूल्यों का उपयोग करके मॉडल निष्पक्षता ऑडिटिंग और भविष्यवाणी व्याख्या के लिए जिम्मेदार AI उपकरण शामिल हैं। फ्रेमवर्क विभिन्न डेटाबेस और क्लाउड स्टोरेज सिस्टम में पढ़ने और लिखने के लिए एक एकीकृत डेटा एक्सेस इंटरफ़ेस भी प्रदान करता है।

Olares is a comprehensive suite of self-hosted identity, storage, AI, and orchestration services designed for private infrastructure management. It functions as a Kubernetes home server orchestrator, enabling the deployment of containerized applications, AI models, and GPU resources on local hardware to replace third-party cloud services. The platform distinguishes itself through a combination of self-hosted AI infrastructure for running large language models and image generators, alongside a decentralized identity manager that uses cryptographic keys and OIDC for trustless authentication. It