Awesome GitHub RepositoriesAI Query Routing

localGPT is a private AI knowledge base and retrieval-augmented generation application. It provides a local document indexer, a hybrid search engine, and an inference interface to enable chatting with private documents and managing a self-hosted information repository without sending data to external servers. The system distinguishes itself through a dual-pass verification pipeline that ensures generated answers are grounded in retrieved sources, accompanied by explicit source attribution. It employs a hybrid retrieval approach combining semantic vector search with keyword matching and rerank

Redis is a high-performance in-memory key-value store that functions as a distributed cache, message broker, and NoSQL database. It provides sub-millisecond read and write access to data stored in RAM and can operate as a vector database for indexing high-dimensional embeddings. The system supports a wide range of data storage and synchronization primitives, including the management of strings, hashes, lists, sets, and JSON documents. It enables real-time data operations through atomic transactions, hybrid persistence using snapshots and append-only logs, and high-availability configurations

Manifest is a language model provider unification system that standardizes access to multiple AI backends through a single interface. It functions as a centralized management layer for integrating various cloud-based and local model providers to simplify how applications request completions. The system provides intelligent model routing and high availability infrastructure by directing queries based on complexity and automatically triggering model fallbacks when a primary provider fails. It distinguishes itself through multi-tenant AI management, organizing agents into isolated groups with de

Promptbase ist ein Prompt-Engineering-Framework, das für das Design, das Testen und die Optimierung von Prompts für Large Language Models entwickelt wurde. Es bietet ein System zur Messung der Modellgenauigkeit und -leistung durch ein Evaluierungs-Toolkit, das Ausgaben mit Ground-Truth-Datensätzen vergleicht. Das Projekt enthält zudem eine Orchestrierungspipeline für die Automatisierung von Machine-Learning-Aufgaben mit mehreren Komponenten über Cloud-basierte Endpunkte sowie ein Dienstprogramm zur Vorbereitung von RAG-Datensätzen (Retrieval-Augmented Generation). Das Framework zeichnet sich durch fortgeschrittene Optimierung der Antwortqualität aus und nutzt Chain-of-Thought-Generatoren, um zwischenzeitliche Argumentationsschritte zu erzeugen, sowie dynamisches Few-Shot-Beispiel-Retrieval unter Verwendung embedding-basierter semantischer Suche. Es implementiert Ensemble-Methoden zur Steigerung der Vorhersagegenauigkeit und verwendet komplexitätsbasiertes Query-Routing sowie Mehrheitsentscheidungs-Aggregation mehrerer Modellvariationen. Das System deckt breitere Funktionen im Datenmanagement und der Automatisierung ab, einschließlich der Formatierung externer Daten in strukturierte Dateien für das Training und der Orchestrierung von Modellausführungspipelines über Kommandozeilen-Dienstprogramme.

how2 is a terminal-based tool that translates plain-English questions into shell commands using AI and StackOverflow data. It functions as a command-line interface where users describe what they want to do in natural language, and the tool returns the appropriate Unix shell or PowerShell command, with support for generating multi-line Bash scripts from natural language prompts. The tool distinguishes itself through its interactive answer browsing mode, which lets users select and copy from multiple StackOverflow answers directly in the terminal. It includes a fallback search mechanism that qu