nashsu/FreeAskInternet
FreeAskInternet
FreeAskInternet एक सेल्फ-होस्टेड AI सर्च एग्रीगेटर और उत्तर जनरेशन प्लेटफ़ॉर्म है। यह कच्चे वेब डेटा को इकट्ठा करने के लिए SearXNG के साथ एकीकृत होकर, कई वेब सर्च इंजनों के परिणामों को एक एकल, व्यापक उत्तर में संश्लेषित (synthesize) करने के लिए एक लैंग्वेज मॉडल का उपयोग करता है।
यह सिस्टम Docker कंटेनराइज़ेशन के माध्यम से लोकल डिप्लॉयमेंट के लिए डिज़ाइन किया गया है, जिससे सर्च एग्रीगेटर और यूज़र इंटरफ़ेस को आइसोलेटेड वातावरण में चलाने की अनुमति मिलती है। यह लोकल लैंग्वेज मॉडल इंटीग्रेशन को सपोर्ट करता है और विभिन्न लोकल या रिमोट मॉडल बैकएंड्स के बीच स्विच करने के लिए एक प्रोवाइडर-अज्ञेयवादी (provider-agnostic) इंटरफ़ेस प्रदान करता है।
यह प्लेटफ़ॉर्म एक एसिंक्रोनस रिक्वेस्ट पाइपलाइन के माध्यम से खोज और संश्लेषण को संभालता है और यूज़र इंटरफ़ेस पर उत्पन्न टेक्स्ट को स्ट्रीम करने के लिए सर्वर-सेंट इवेंट्स का उपयोग करता है। यह सटीक उत्तरों के लिए मॉडल में एग्रीगेटेड सर्च परिणामों को फीड करने के लिए प्रॉम्प्ट-आधारित संदर्भ इंजेक्शन (context injection) का उपयोग करता है।
Features
- AI-Powered Search Aggregators - Combines multiple search engine results with a language model to generate comprehensive, synthesized answers to user queries.
- Inference Context Injection - Injects aggregated web search results into the language model as context to ensure generated answers are grounded and factual.
- Local LLM API Servers - Supports connecting to local LLM API servers to power the search and answer generation system offline.
- Self-Hosted AI Platforms - Provides a self-hosted platform for AI-driven search and answer generation that runs locally without requiring a GPU.
- Search Result Aggregators - Integrates with multiple external search engines through a unified interface to collect and normalize raw web data.
- Meta Search Engines - Uses SearXNG as a meta-search engine to aggregate results from a wide array of external search providers.
- Search Result Synthesizers - Aggregates results from multiple search engines and synthesizes them into a coherent natural language response using an LLM.
- Containerized Deployments - Packages the search aggregator and user interface into Docker containers for simplified local installation.
- Streaming Chat Responses - Implements an interface that streams AI-generated text to the user incrementally to reduce perceived latency.
- LLM Provider Integrations - Provides mechanisms to configure and connect to various external LLM providers or local inference servers.
- Provider-Agnostic Model Interfaces - Features a provider-agnostic interface allowing seamless switching between different local or remote language model backends.
- Container Orchestration & Deployment - Provides Docker configurations to bundle the search engine, backend, and UI into isolated environments for consistent deployment.
- AI Application Deployments - Ships as a containerized AI application with a web interface, designed for easy local deployment via Docker.
- Server-Sent Events - Uses Server-Sent Events to push generated text from the AI model to the UI in real time.
- Private Search Engines - Enables private web searching by running the aggregation and synthesis pipeline locally on the user's own infrastructure.
- AI Search Engines - Self-hosted AI search engine using LLMs and web search.
