Awesome GitHub RepositoriesRAG Context Retrieval

This repository is a collection of guides, notebooks, and recipes for implementing advanced prompting techniques and workflow patterns with large language models. It serves as a prompt engineering guide, an evaluation suite for scoring prompt quality, and a framework for orchestrating agents and integrating external tools. The project provides implementation patterns for building applications with Claude, specifically focusing on coordinating multiple models to split complex tasks between high-reasoning and high-efficiency agents. It includes technical demonstrations for multimodal data proce

Danswer is an LLM application framework and RAG engine that provides a self-hosted interface for connecting large language models to private data. It serves as an enterprise AI chat interface and agent orchestrator, enabling the creation of specialized assistants with custom instructions and knowledge bases. The platform differentiates itself through an observability dashboard for tracking query history and token consumption, as well as a white-labeled interface for customized branding. It includes a multi-step research workflow for producing long-form reports and a sandboxed environment for

Virgilio is an AI educational roadmap generator and learning path orchestrator designed to structure personalized study trajectories for data science and machine learning. It functions as an AI-driven mentor that organizes educational content into hierarchical levels of abstraction, ranging from high-level introductions to technical tutorials. The system automates curriculum design by mapping technical knowledge into organized levels to ensure a logical progression of study. It manages e-learning journeys by breaking down broad domains into smaller sub-modules, guiding users through necessary

QAnything is a retrieval-augmented generation application framework and self-hosted AI interface. It functions as a system that combines a vector database knowledge base, a document parsing service, and a hybrid search engine to generate answers based on private user data. The project features a modular pipeline architecture that allows users to independently replace components such as parsers, embedding models, and reranking engines. It supports local-first model deployment and offline operation to ensure data privacy, and includes a two-stage retrieval pipeline that merges dense vector embe

mi-gpt is a voice assistant bridge and agent orchestrator that connects smart speakers to large language models. It functions as an integration layer that routes audio requests from hardware speakers to AI providers and converts generated text back into speech via a customizable synthesis system. The project features a retrieval-augmented generation knowledge base that uses embeddings and external documents to provide context-aware responses. It includes a persona definition system for configuring behavioral rules, system prompts, and roleplay characteristics, alongside a plugin architecture

Jeesite is a full-stack low-code development framework designed for building enterprise administrative portals using Spring Boot, MyBatis, and Vue. It functions as a comprehensive platform for creating administrative dashboards with integrated role-based access control and organizational data permission systems. The framework distinguishes itself through a combination of automated CRUD code generation and an integrated RAG platform that connects large language models to enterprise data via vector stores. It further incorporates a BPMN-based workflow engine to automate complex business process

OpenGPTs is a platform for building, deploying, and managing customizable AI assistants. It serves as an orchestrator that allows for the configuration of large language models with specific personas, cognitive architectures, and tool integrations. The system provides a complete lifecycle manager for AI agents, enabling the drafting of configurations, testing within sandboxes, and publishing assistants for public or internal distribution. It integrates a knowledge base interface using retrieval-augmented generation to attach documents to bots for context-aware responses. The platform covers

llm-zoomcamp is a comprehensive educational program and course for building real-life AI systems using large language models. It serves as a structured curriculum and implementation guide for developing AI applications and retrieval techniques. The project provides instructional material on building retrieval augmented generation pipelines to ground model responses in custom knowledge bases. It includes training on vector database implementation, semantic search, and the use of function calling to create autonomous agentic workflows. The curriculum covers a broad range of system development

This project is an AI-driven phone agent platform and telephony gateway designed to automate inbound and outbound voice interactions. It functions as a conversational voicebot system that utilizes large language models to conduct natural language phone conversations for customer support and data collection. The platform distinguishes itself through the integration of retrieval-augmented generation, allowing voice agents to search internal knowledge bases for domain-specific answers during live calls. It features automated language detection to support multilingual conversations and a system f

🔥 基于大模型和 RAG 的智能问数系统，对话式数据分析神器。Text-to-SQL Generation via LLMs using RAG.

Wenda डेटा गोपनीयता और सुरक्षा सुनिश्चित करने के लिए आंतरिक नेटवर्क के भीतर लैंग्वेज मॉडल को डिप्लॉय करने के लिए एक सेल्फ-होस्टेड इंफ्रास्ट्रक्चर और गेटवे प्लेटफ़ॉर्म है। यह एक केंद्रीकृत हब और API गेटवे के रूप में कार्य करता है जो एक सिंगल इंटरफ़ेस के माध्यम से विभिन्न ऑफ़लाइन मॉडल रनर्स और ऑनलाइन सर्विस प्रोवाइडर्स के बीच संचार को एकीकृत करता है। प्लेटफ़ॉर्म में एक वर्कफ़्लो ऑर्केस्ट्रेटर शामिल है जो जटिल कन्वर्सेशन फ़्लो और मॉडल सेटिंग्स को ऑटोमेट करने के लिए कस्टम स्क्रिप्ट और API कॉल का उपयोग करता है। यह एक रिट्रीवल सिस्टम को भी शामिल करता है जो वेक्टर डेटाबेस और सर्च इंजन से प्राप्त बाहरी ज्ञान के साथ मॉडल रिस्पॉन्स को बढ़ाता है। सिस्टम उपयोगकर्ता सत्रों के दौरान कॉन्टेक्स्ट बनाए रखने के लिए डेटाबेस में संवाद इतिहास को पर्सिस्ट करके कन्वर्सेशनल स्टेट और मेमोरी को मैनेज करता है। यह कोर एप्लिकेशन को संशोधित किए बिना नए मॉडल प्रोवाइडर्स को जोड़ने की अनुमति देने के लिए एक मॉड्यूलर इंटीग्रेशन दृष्टिकोण का उपयोग करता है।

Giskard एक AI गुणवत्ता आश्वासन सूट और मूल्यांकन फ्रेमवर्क है जिसे लार्ज लैंग्वेज मॉडल और AI एजेंटों के प्रदर्शन, पूर्वाग्रह और सुरक्षा जोखिमों को मापने के लिए डिज़ाइन किया गया है। यह सुरक्षा खामियों और प्रदर्शन रिग्रेशन का पता लगाने के लिए एक भेद्यता स्कैनर के रूप में कार्य करता है। यह प्रोजेक्ट स्वचालित रेड-टीमिंग और प्रतिकूल परीक्षण वर्कफ़्लो प्रदान करता है। ये उपकरण सुरक्षा अंतराल और कमजोरियों की पहचान करने के लिए सिस्टम विवरण के आधार पर प्रॉम्प्ट-इंजेक्शन प्रोब और प्रतिकूल हमले उत्पन्न करते हैं। यह प्लेटफ़ॉर्म AI एजेंट ऑडिटिंग और RAG गुणवत्ता वैलिडेशन को कवर करता है, जो तथ्यात्मक सटीकता को सत्यापित करने के लिए नॉलेज-बेस ग्राउंडिंग और सिंथेटिक डेटा जनरेशन का उपयोग करता है। यह गैर-निर्धारित आउटपुट को मान्य करने के लिए दावा-आधारित मूल्यांकन और सिमेंटिक समानता मिलान के माध्यम से रिग्रेशन परीक्षण को भी संभालता है।

OpenAgent is an autonomous AI agent framework designed to orchestrate language models and retrieved context to execute complex user goals. It functions as a platform for building autonomous agents that utilize iterative loops to select tools and process information. The project features a multi-model gateway that abstracts various large language model providers, allowing users to switch between models on a per-conversation basis without modifying code. It also includes a RAG knowledge base system that ingests documents and generates embeddings to provide semantic context during inference. Th

Claude Coder is an autonomous AI coding agent and development tool implemented as a VS Code extension. It functions as an LLM coding agent capable of generating code, debugging software, and implementing project designs directly within the development environment. The system acts as an autonomous software engineer that can research web content and coordinate the deployment of applications to remote environments. It integrates web research capabilities into the IDE to fetch external documentation and technical information. The tool covers a broad range of software engineering tasks, including

यह प्रोजेक्ट एक नॉलेज बेस प्लगइन और RAG कॉन्टेक्स्ट मैनेजर है जो सिमेंटिक सर्च और रिलेशनशिप मैपिंग को सक्षम करने के लिए एक स्थानीय वेक्टर डेटाबेस इंटरफेस का उपयोग करता है। यह कीवर्ड मिलान के बजाय वैचारिक अर्थ के आधार पर सिमेंटिक रूप से संबंधित नोट्स और अंशों को खोजने के लिए टेक्स्ट को संख्यात्मक वैक्टर में बदलता है। यह सिस्टम एक सिमेंटिक ग्राफ़ विज़ुअलाइज़र के माध्यम से खुद को अलग करता है जो वैचारिक कनेक्शन को प्रकट करने के लिए नोट्स को क्लस्टर में मैप करता है। इसमें एक कॉन्टेक्स्ट मैनेजर भी है जो बड़े भाषा मॉडल वार्तालापों के लिए आधारभूत तथ्यात्मक आधार प्रदान करने के लिए स्थानीय नोट्स और अंशों को पुन: प्रयोज्य पैक में बंडल करने में सक्षम है। यह टूल प्राकृतिक भाषा ज्ञान क्वेरी, नोट निर्माण के लिए स्वचालित वर्कफ़्लो निष्पादन, और स्थानीय तथा क्लाउड-आधारित AI मॉडल के बीच प्रॉम्प्ट को रूट करने की क्षमता सहित क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। यह संपादन प्रक्रिया के दौरान समान दस्तावेज़ों को सतह पर लाने के लिए इनलाइन संबंधित सामग्री संकेतक और एक फ़ूटर पैनल जैसे कई खोज इंटरफेस प्रदान करता है।

zvec is an embedded vector database engine and indexing library designed for high-dimensional similarity search. It functions as a hybrid search engine and a retrieval-augmented generation knowledge base, allowing for the storage and retrieval of dense and sparse vectors. The system is distinguished by its hybrid retrieval pipeline, which fuses vector similarity, full-text keyword matching, and scalar metadata filtering into single query operations. It supports a plugin-based model integration system for registering custom embedding models and rerankers, as well as language bindings for nativ

Cube Studio एक क्लाउड-नेटिव MLOps प्लेटफॉर्म और Kubernetes-आधारित AI ऑर्केस्ट्रेटर है जिसे पूरे मशीन लर्निंग लाइफसाइकिल के लिए डिज़ाइन किया गया है। यह बड़े पैमाने पर मॉडल फाइन-ट्यूनिंग के लिए एक डिस्ट्रीब्यूटेड ट्रेनिंग फ्रेमवर्क, हार्डवेयर वर्चुअलाइजेशन के लिए GPU रिसोर्स मैनेजर, और एंड-टू-एंड वर्कफ़्लो को मैनेज करने के लिए विजुअल डायरेक्टेड एसाइक्लिक ग्राफ का उपयोग करने वाला ML पाइपलाइन ऑर्केस्ट्रेटर प्रदान करता है। यह प्लेटफॉर्म अपने विशेष LLM इन्फरेंस सर्वर के माध्यम से खुद को अलग बनाता है, जो रिट्रीवल-ऑगमेंटेड जनरेशन और प्राइवेट नॉलेज बेस के निर्माण का समर्थन करता है। इसमें लार्ज लैंग्वेज मॉडल की सुपरवाइज्ड फाइन-ट्यूनिंग और रिइंफोर्समेंट लर्निंग के लिए एक समर्पित सिस्टम है, जो विजुअल हाइपरपैरामीटर सर्च टूल के साथ आता है। सिस्टम मल्टीमॉडल डेटा लेबलिंग, डिस्ट्रीब्यूटेड डेटा पाइपलाइन और मल्टी-क्लस्टर वर्कलोड शेड्यूलिंग जैसी व्यापक परिचालन क्षमताओं को कवर करता है।

यह प्रोजेक्ट एक कानूनी AI सिस्टम है जो रिट्रीवल-ऑगमेंटेड जनरेशन नॉलेज बेस पर आधारित एक भाषा मॉडल सहायक प्रदान करता है। यह यूज़र्स को वेक्टर-आधारित कानूनी खोज करने और कानूनी सवालों के सटीक उत्तर प्राप्त करने में सक्षम बनाता है। यह सिस्टम विशेष रूप से चीनी कानूनी ज्ञान पुनर्प्राप्ति का समर्थन करता है, जो मार्कडाउन दस्तावेजों को सिमेंटिक खोज के लिए वेक्टर एम्बेडिंग में परिवर्तित करता है। यह एक स्ट्रीमिंग वेब इंटरफेस का उपयोग करता है जो सर्वर-सेंट इवेंट्स के माध्यम से वृद्धिशील AI प्रतिक्रियाएं प्रदान करता है। व्यापक क्षमता में चंक-आधारित दस्तावेज़ प्रसंस्करण, वेक्टर-आधारित ज्ञान अनुक्रमण और प्रासंगिक कानूनी उद्धरणों और कानूनों को पुनः प्राप्त करने के लिए समानता खोज शामिल है।

This project is an educational resource and engineering guide for building, deploying, and optimizing large language model applications and production pipelines. It serves as a blueprint for cloud AI infrastructure, providing a framework for orchestrating inference endpoints, data warehouses, and scalable production environments. The repository provides specific implementation patterns for retrieval augmented generation to ground model responses in external data. It includes a training workflow for crawling, structuring, and processing datasets to facilitate model fine-tuning, alongside an ev

iflow-cli is a command-line interface and suite of AI tools designed for software engineering, workflow orchestration, and multimodal data analysis. It functions as an LLM command line interface that enables users to execute AI workflows, analyze codebase structures, and interact with large language models directly from the terminal. The project features a plugin-based agent architecture that allows for the integration of specialized domain experts and custom instruction sets from an external marketplace. It distinguishes itself through a multimodal AI terminal capable of processing visual da