Awesome GitHub RepositoriesRAG Context Retrieval

This repository is a collection of guides, notebooks, and recipes for implementing advanced prompting techniques and workflow patterns with large language models. It serves as a prompt engineering guide, an evaluation suite for scoring prompt quality, and a framework for orchestrating agents and integrating external tools. The project provides implementation patterns for building applications with Claude, specifically focusing on coordinating multiple models to split complex tasks between high-reasoning and high-efficiency agents. It includes technical demonstrations for multimodal data proce

Danswer is an LLM application framework and RAG engine that provides a self-hosted interface for connecting large language models to private data. It serves as an enterprise AI chat interface and agent orchestrator, enabling the creation of specialized assistants with custom instructions and knowledge bases. The platform differentiates itself through an observability dashboard for tracking query history and token consumption, as well as a white-labeled interface for customized branding. It includes a multi-step research workflow for producing long-form reports and a sandboxed environment for

Virgilio is an AI educational roadmap generator and learning path orchestrator designed to structure personalized study trajectories for data science and machine learning. It functions as an AI-driven mentor that organizes educational content into hierarchical levels of abstraction, ranging from high-level introductions to technical tutorials. The system automates curriculum design by mapping technical knowledge into organized levels to ensure a logical progression of study. It manages e-learning journeys by breaking down broad domains into smaller sub-modules, guiding users through necessary

QAnything is a retrieval-augmented generation application framework and self-hosted AI interface. It functions as a system that combines a vector database knowledge base, a document parsing service, and a hybrid search engine to generate answers based on private user data. The project features a modular pipeline architecture that allows users to independently replace components such as parsers, embedding models, and reranking engines. It supports local-first model deployment and offline operation to ensure data privacy, and includes a two-stage retrieval pipeline that merges dense vector embe

mi-gpt is a voice assistant bridge and agent orchestrator that connects smart speakers to large language models. It functions as an integration layer that routes audio requests from hardware speakers to AI providers and converts generated text back into speech via a customizable synthesis system. The project features a retrieval-augmented generation knowledge base that uses embeddings and external documents to provide context-aware responses. It includes a persona definition system for configuring behavioral rules, system prompts, and roleplay characteristics, alongside a plugin architecture

Jeesite is a full-stack low-code development framework designed for building enterprise administrative portals using Spring Boot, MyBatis, and Vue. It functions as a comprehensive platform for creating administrative dashboards with integrated role-based access control and organizational data permission systems. The framework distinguishes itself through a combination of automated CRUD code generation and an integrated RAG platform that connects large language models to enterprise data via vector stores. It further incorporates a BPMN-based workflow engine to automate complex business process

OpenGPTs is a platform for building, deploying, and managing customizable AI assistants. It serves as an orchestrator that allows for the configuration of large language models with specific personas, cognitive architectures, and tool integrations. The system provides a complete lifecycle manager for AI agents, enabling the drafting of configurations, testing within sandboxes, and publishing assistants for public or internal distribution. It integrates a knowledge base interface using retrieval-augmented generation to attach documents to bots for context-aware responses. The platform covers

llm-zoomcamp is a comprehensive educational program and course for building real-life AI systems using large language models. It serves as a structured curriculum and implementation guide for developing AI applications and retrieval techniques. The project provides instructional material on building retrieval augmented generation pipelines to ground model responses in custom knowledge bases. It includes training on vector database implementation, semantic search, and the use of function calling to create autonomous agentic workflows. The curriculum covers a broad range of system development

This project is an AI-driven phone agent platform and telephony gateway designed to automate inbound and outbound voice interactions. It functions as a conversational voicebot system that utilizes large language models to conduct natural language phone conversations for customer support and data collection. The platform distinguishes itself through the integration of retrieval-augmented generation, allowing voice agents to search internal knowledge bases for domain-specific answers during live calls. It features automated language detection to support multilingual conversations and a system f

🔥 基于大模型和 RAG 的智能问数系统，对话式数据分析神器。Text-to-SQL Generation via LLMs using RAG.

Wenda es una plataforma de infraestructura y gateway autohospedada para desplegar modelos de lenguaje dentro de redes internas para garantizar la privacidad y seguridad de los datos. Funciona como un hub centralizado y API gateway que unifica la comunicación entre varios ejecutores de modelos offline y proveedores de servicios online a través de una única interfaz. La plataforma incluye un orquestador de flujo de trabajo que utiliza scripts personalizados y llamadas a API para automatizar flujos de conversación complejos y configuraciones de modelos. También incorpora un sistema de recuperación que aumenta las respuestas del modelo con conocimiento externo recuperado de bases de datos vectoriales y motores de búsqueda. El sistema gestiona el estado y la memoria conversacional persistiendo el historial de diálogo en una base de datos para mantener el contexto a través de las sesiones de usuario. Utiliza un enfoque de integración modular para permitir la adición de nuevos proveedores de modelos sin modificar la aplicación principal.

Giskard es una suite de aseguramiento de calidad de IA y framework de evaluación diseñado para medir el rendimiento, el sesgo y los riesgos de seguridad de modelos de lenguaje de gran tamaño y agentes de IA. Funciona como un escáner de vulnerabilidades para detectar fallos de seguridad y regresiones de rendimiento. El proyecto proporciona flujos de trabajo automatizados de red-teaming y pruebas adversarias. Estas herramientas generan sondas de inyección de prompts y ataques adversarios basados en descripciones del sistema para identificar brechas de seguridad y vulnerabilidades. La plataforma cubre la auditoría de agentes de IA y la validación de calidad de RAG, utilizando grounding de base de conocimientos y generación de datos sintéticos para verificar la precisión factual. Maneja además pruebas de regresión mediante evaluación basada en aserciones y coincidencia de similitud semántica para validar salidas no deterministas.

OpenAgent es un framework de agentes de IA autónomos diseñado para orquestar modelos de lenguaje y contexto recuperado para ejecutar objetivos complejos del usuario. Funciona como una plataforma para construir agentes autónomos que utilizan bucles iterativos para seleccionar herramientas y procesar información. El proyecto cuenta con una puerta de enlace (gateway) multimodelo que abstrae varios proveedores de modelos de lenguaje grandes, permitiendo a los usuarios cambiar entre modelos por conversación sin modificar el código. También incluye un sistema de base de conocimientos RAG que ingiere documentos y genera embeddings para proporcionar contexto semántico durante la inferencia. El sistema proporciona una herramienta de automatización de flujo de trabajo visual con un editor de arrastrar y soltar para crear pipelines de múltiples pasos con ramificación condicional. Sus capacidades operativas cubren la automatización del navegador y del sistema operativo, incluyendo la ejecución de comandos de shell, procesamiento de documentos de oficina y reconocimiento óptico de caracteres. La aplicación admite el despliegue en contenedores y puede compilarse en un solo binario con activos estáticos empaquetados, incluyendo soporte para plataformas de hardware RISC-V de 64 bits.

Claude Coder es un agente de codificación de IA autónomo y herramienta de desarrollo implementada como una extensión de VS Code. Funciona como un agente de codificación LLM capaz de generar código, depurar software e implementar diseños de proyectos directamente dentro del entorno de desarrollo. El sistema actúa como un ingeniero de software autónomo que puede investigar contenido web y coordinar el despliegue de aplicaciones a entornos remotos. Integra capacidades de investigación web en el IDE para obtener documentación externa e información técnica. La herramienta cubre una amplia gama de tareas de ingeniería de software, incluyendo la automatización de la generación de boilerplate, corrección de errores y la conversión de diseños de proyectos en código fuente funcional.

Este proyecto es un plugin de base de conocimientos y gestor de contexto RAG que utiliza una interfaz de base de datos vectorial local para permitir la búsqueda semántica y el mapeo de relaciones. Transforma texto en vectores numéricos para encontrar notas y extractos semánticamente relacionados basándose en el significado conceptual en lugar de coincidencias de palabras clave. El sistema se diferencia mediante un visualizador de grafos semánticos que mapea las notas en clústeres para revelar conexiones conceptuales. También cuenta con un gestor de contexto capaz de agrupar notas y extractos locales en paquetes reutilizables para proporcionar bases factuales fundamentadas para conversaciones con modelos de lenguaje grandes. La herramienta cubre una amplia gama de capacidades, incluyendo consultas de conocimiento en lenguaje natural, ejecución de flujos de trabajo automatizados para la creación de notas y la capacidad de enrutar prompts entre modelos de IA locales y basados en la nube. Proporciona varias interfaces de descubrimiento, como indicadores de contenido relacionado en línea y un panel inferior para mostrar documentos similares durante el proceso de edición.

zvec is an embedded vector database engine and indexing library designed for high-dimensional similarity search. It functions as a hybrid search engine and a retrieval-augmented generation knowledge base, allowing for the storage and retrieval of dense and sparse vectors. The system is distinguished by its hybrid retrieval pipeline, which fuses vector similarity, full-text keyword matching, and scalar metadata filtering into single query operations. It supports a plugin-based model integration system for registering custom embedding models and rerankers, as well as language bindings for nativ

Cube Studio es una plataforma MLOps nativa de la nube y un orquestador de IA basado en Kubernetes, diseñado para todo el ciclo de vida del machine learning. Proporciona un framework de entrenamiento distribuido para el ajuste fino de modelos a gran escala, un gestor de recursos GPU para virtualización de hardware y un orquestador de pipelines de ML que utiliza grafos acíclicos dirigidos visuales para gestionar flujos de trabajo de extremo a extremo. La plataforma se distingue por su servidor de inferencia LLM especializado, que soporta generación aumentada por recuperación (RAG) y la construcción de bases de conocimiento privadas. Cuenta con un sistema dedicado para el ajuste fino supervisado y aprendizaje por refuerzo de modelos de lenguaje grandes, complementado con herramientas visuales de búsqueda de hiperparámetros. El sistema cubre una amplia gama de capacidades operativas, incluyendo etiquetado de datos multimodales, pipelines de datos distribuidos y programación de cargas de trabajo en múltiples clústeres. También ofrece entornos de desarrollo interactivos basados en navegador, gestión de imágenes de contenedor y un registro de modelos para versionar y desplegar APIs de inferencia escalables con división de tráfico. La infraestructura incluye monitorización de salud del clúster integrada y control de acceso basado en roles con integración de inicio de sesión único (SSO).

Este proyecto es un sistema de IA legal que proporciona un asistente de modelo de lenguaje fundamentado en una base de conocimientos de generación aumentada por recuperación (RAG). Permite a los usuarios realizar búsquedas legales basadas en vectores y recibir respuestas fundamentadas a preguntas legales. El sistema soporta específicamente la recuperación de conocimiento legal chino convirtiendo documentos markdown en embeddings vectoriales para búsqueda semántica. Utiliza una interfaz web de streaming que entrega respuestas incrementales de IA mediante server-sent events. La superficie de capacidades más amplia incluye procesamiento de documentos basado en fragmentos (chunking), indexación de conocimiento basada en vectores y búsqueda de similitud para recuperar citas legales y estatutos relevantes.

This project is an educational resource and engineering guide for building, deploying, and optimizing large language model applications and production pipelines. It serves as a blueprint for cloud AI infrastructure, providing a framework for orchestrating inference endpoints, data warehouses, and scalable production environments. The repository provides specific implementation patterns for retrieval augmented generation to ground model responses in external data. It includes a training workflow for crawling, structuring, and processing datasets to facilitate model fine-tuning, alongside an ev

iflow-cli is a command-line interface and suite of AI tools designed for software engineering, workflow orchestration, and multimodal data analysis. It functions as an LLM command line interface that enables users to execute AI workflows, analyze codebase structures, and interact with large language models directly from the terminal. The project features a plugin-based agent architecture that allows for the integration of specialized domain experts and custom instruction sets from an external marketplace. It distinguishes itself through a multimodal AI terminal capable of processing visual da