nilsherzig/LLocalSearchArchived
LLocalSearch
LLocalSearch est un moteur de recherche axé sur la confidentialité et un framework d'agent qui utilise des grands modèles de langage hébergés localement pour rechercher sur Internet et agréger des réponses. Il fonctionne comme une interface de génération augmentée par récupération (RAG) où toutes les requêtes et le traitement restent sur le matériel de l'utilisateur pour garantir la confidentialité des données et supprimer la dépendance vis-à-vis des fournisseurs d'API cloud externes.
Le système emploie une chaîne d'agents autonomes qui effectuent des recherches Internet récursives, appelant des outils de recherche plusieurs fois pour rassembler et synthétiser les informations. Il coordonne ces modèles pour raisonner à travers des requêtes complexes, fournissant un flux en temps réel de journaux et de citations de sources pour surveiller le processus de raisonnement de l'agent.
Le projet inclut des capacités pour la gestion de conversation avec état afin de prendre en charge les dialogues multi-tours et les raffinements itératifs. Il intègre la récupération d'informations basée sur des outils et l'inférence de modèle local pour fournir un pipeline complet de la recherche initiale à la génération de réponse finale.
Features
- Recursive Research Agents - Implements autonomous agents that perform recursive internet searches to gather and synthesize comprehensive information.
- Autonomous Research Agents - Automates the process of gathering information through recursive internet searches handled by autonomous local agents.
- Local Model Generation - Provides answer generation using locally hosted models to ensure data privacy and remove cloud dependencies.
- Local LLM Search - Uses a chain of local language models to find answers to questions without requiring external API keys.
- API-Free Local Inference - Executes foundation models on local hardware to eliminate dependency on external cloud API providers.
- Private Information Retrieval - Retrieves data and answers using locally hosted models to ensure all processing remains on the user's hardware.
- Search Query Recursion - Employs autonomous agents that iteratively generate new search queries to gather current external information.
- Local LLM Research Agents - Provides a framework of autonomous agents that recursively call search tools using local model inference.
- Tool-Augmented Retrieval - Equips language models with search tools to fetch external web data into the local prompt context.
- LLM Task Chains - Coordinates a sequence of LLM calls in a pipeline to process queries from initial search to final synthesis.
- Context-Aware Conversation Managers - Combines local language models with retrieved search data to maintain context in multi-turn dialogues.
- Conversation State Persistence - Maintains a persistent record of interactions to provide context for follow-up queries and iterative refinements.
- Conversational Search Engines - Allows users to refine search results and ask follow-up questions within a persistent, LLM-powered conversation.
- Retrieval-Augmented Generation Interfaces - Provides a specialized interface for monitoring the real-time reasoning and source attribution of local RAG.
- AI-Powered Search Aggregators - Coordinates multiple local models to search and synthesize information into comprehensive answers without external APIs.
- Privacy-Focused Search Engines - Functions as a self-hosted search tool that processes all queries locally to ensure complete data privacy.
- Task Progress Streams - Pushes real-time logs and source citations of the agent's reasoning process directly to the user interface.
- Agent Frameworks - Locally running search aggregator using LLM agents.
- Application Development - Local web search implementation using LLM chains.
