Awesome GitHub RepositoriesModel Orchestration Platforms

Jan is a desktop application that functions as a local artificial intelligence model runtime and an open-standard API server. It enables the execution of large language models directly on local hardware, ensuring that data remains private and accessible offline while providing a unified interface for managing model weights and inference runtimes. The platform distinguishes itself by offering a modular inference backend that allows users to swap execution engines based on hardware compatibility and performance needs. It acts as a cross-platform orchestrator, providing the ability to switch bet

LibreChat is an artificial intelligence orchestration platform that provides a unified interface for interacting with multiple language models. It functions as a centralized workspace where users can switch between different intelligence engines, manage complex conversational workflows, and maintain persistent memory across sessions through a vector-database-backed storage system. The platform distinguishes itself through an extensible agent framework that supports autonomous task execution and the integration of external tools. It features a secure, containerized environment for executing co

Wenda هي منصة لتنسيق النماذج اللغوية الكبيرة (LLM) ومحرك سير عمل مخصص مصمم لإدارة خلفيات نماذج لغوية متعددة من خلال واجهة موحدة. تعمل كبوابة ذكاء اصطناعي مستضافة ذاتياً تتيح تنفيذ تسلسلات مهام معقدة وتدفقات محادثة مؤتمتة. يستخدم النظام إضافات JavaScript لتنسيق سير العمل وتشغيل استدعاءات API الخارجية. يدعم التوليد المعزز بالاسترجاع (RAG) عن طريق حقن البيانات ذات الصلة من مخازن المتجهات والملفات غير المتصلة بالإنترنت في المطالبات لزيادة دقة الاستجابة. تم بناء المنصة لنشر الشبكات الخاصة، وتتميز بإدارة الوصول متعدد المستخدمين والقدرة على تشغيل نماذج مفتوحة المصدر مكممة لتناسب قيود أجهزة معينة. كما تتضمن تتبع التاريخ القائم على الجلسة للحفاظ على سياق المحادثة.