46 مستودعات
In-memory data structures specifically optimized for storing and querying high-dimensional embeddings.
Distinct from In-Memory Data Stores: Specifically for vector embeddings rather than general application state or transient data.
Explore 46 awesome GitHub repositories matching data & databases · Vector Stores. Refine with filters or upvote what's useful.
gbrain is an agent framework and retrieval-augmented generation system that combines a durable task queue, a git-synced vector store, and a knowledge graph engine. It provides a foundation for building AI agents that interact with structured knowledge bases using the Model Context Protocol. The system synchronizes markdown files from a git repository into a database for high-performance semantic retrieval and creates typed edges between data pages by extracting entity references and wikilinks. It uses a database-backed queue to execute persistent background jobs and tool loops, ensuring relia
Synchronizes markdown files from a Git repository into a database for fast semantic retrieval.
This project is a retrieval-augmented generation application designed to answer questions from uploaded PDF documents. It functions as a document question-answering engine and a streaming AI chat interface that provides responses backed by specific source citations. The system utilizes a state-machine workflow orchestrator to coordinate multi-step document ingestion and retrieval pipelines. This orchestration allows for step-by-step visualization and debugging of the process as documents are parsed and processed. The application manages the full lifecycle of document interaction, including P
Stores numerical vector embeddings of PDF text chunks to enable efficient semantic similarity searching.
This project provides a dockerized AI workflow stack and orchestration templates for deploying a self-hosted AI environment. It establishes a localized infrastructure for building autonomous agents and model chains that process private data on-premises without external cloud dependencies. The environment is designed to support autonomous agent development, allowing models to dynamically select tools, execute shell commands, and interact with local file systems. It includes integrated vector database support to enable retrieval augmented generation and private document analysis. The stack cov
Uses a locally hosted vector database as a knowledge store for document embedding and similarity retrieval.
WasmEdge is an extensible WebAssembly runtime that executes WebAssembly bytecode in a secure sandbox for cloud, edge, and embedded applications. It functions as a multi-language compiler, compiling applications written in Rust, JavaScript, Go, and Python into WebAssembly bytecode for sandboxed execution, and as a server-side JavaScript runtime that runs JavaScript programs with ES6 modules, NPM packages, and Node.js-compatible APIs. The runtime also serves as an AI inference runtime, executing AI models from JavaScript using WASI-NN plug-ins for inference tasks on personal devices and edge har
Connects to Qdrant vector databases from within WebAssembly applications using a Rust driver.
Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework
Offers a portable API to store and query vector embeddings across a wide range of database providers.
Llama-stack هو مكدس تنظيم موحد وبوابة API للذكاء الاصطناعي التوليدي. يوفر طبقة اتصال موحدة وواجهة متسقة لنشر وإدارة والتفاعل مع مختلف مزودي ونماذج اللغات الكبيرة. يعمل النظام كإطار عمل للوكلاء (agent framework) يدير تنفيذ الأدوات وحزم المهارات ذات الإصدارات لأتمتة المهام المعقدة. يتضمن نظام معالجة دفعات للتعامل مع كميات كبيرة من الطلبات غير المتزامنة من خلال المعالجة دون اتصال، وواجهة قاعدة بيانات متجهة لتخزين والبحث في المستندات لتمكين التوليد المعزز بالاسترجاع (RAG). يغطي المكدس قدرات عالية المستوى بما في ذلك تنظيم وكلاء الذكاء الاصطناعي، ونشر النماذج، وتوحيد واجهات برمجة تطبيقات النماذج للسماح بالتبديل بين المزودين دون إعادة كتابة تعليمات برمجية للتطبيق.
Ships a standardized interface to manage indexing and retrieval logic across vector stores to enable retrieval augmented generation.
Deep Searcher is an open-source retrieval-augmented generation engine that indexes private documents into a vector database and uses large language models to answer complex questions with cited reasoning. It functions as both a command-line interface and a web API research tool, enabling users to load data and generate comprehensive reports by combining indexed private information with LLM-powered analysis. The system distinguishes itself through a plugin-based provider architecture that supports multiple embedding models, LLM providers, vector databases, and file loaders as interchangeable c
Stores document embeddings in Milvus and queries them with LLMs for grounded, cited answers.
This project is an educational implementation guide and framework for building Retrieval Augmented Generation systems. It provides a workflow for constructing a knowledge base pipeline that partitions documents, indexes them as vectors, and provides external context for language model prompts. The system features a document chunking framework that uses recursive character splitting to fit text into model context windows. It includes an in-memory vector store and a similarity search system that retrieves relevant text segments by calculating the mathematical distance between dense embedding ve
Ships a local in-memory data structure for storing and retrieving document embeddings.
Horizon is a realtime API server and RethinkDB backend designed to push database changes instantly to front-end clients. It utilizes a WebSocket data streaming API to synchronize data between the database and user interfaces without requiring manual polling. The project integrates an OAuth identity manager for verifying user identities through third-party providers and a role-based access control system to define granular permissions for viewing or modifying database documents. It is delivered as a containerized backend framework, allowing the server and its dependencies to be deployed as a p
Enables the removal of single or multiple documents from a collection using unique identifiers.
Feast is an open-source feature store for machine learning that provides a central platform for defining, storing, and serving features across both training and inference workflows. It operates as a declarative system where feature definitions are written as code in Python files, synchronized to a central registry, and made available for low-latency online retrieval or point-in-time correct historical joins for training datasets. The project abstracts storage behind a pluggable architecture, allowing offline and online backends to be swapped without changing retrieval logic, and coordinates ma
Enables PGVector support to store vector embeddings and retrieve the top-k closest vectors for similarity search.
Superagent is an AI safety platform that protects applications from prompt injections, data leaks, and harmful outputs through built-in guardrails. It functions as a prompt injection detection system, data redaction tool, and red team testing tool, automatically removing personally identifiable information and protected health data from AI inputs and outputs while scanning image uploads with vision AI to detect visual prompt injection attacks before processing. The platform routes every prompt through a sequential pipeline of safety checks including injection detection, data redaction, and co
Converts documents into vector embeddings and stores them in supported vector databases for semantic search.
Hazelcast is a distributed data platform that combines an in-memory data grid with a stream processing engine to support real-time analytics and event-driven applications. It functions as a partitioned, distributed key-value store that replicates data across cluster nodes to provide low-latency access and high availability. The platform also serves as a distributed SQL query engine, allowing users to execute standard SQL statements against both in-memory datasets and external data sources. What distinguishes Hazelcast is its use of a distributed consensus subsystem to maintain strongly consis
Maintains collections of vectors and associated metadata, allowing for key-based storage and retrieval of high-dimensional data points.
Wenda هي منصة لتنسيق النماذج اللغوية الكبيرة (LLM) ومحرك سير عمل مخصص مصمم لإدارة خلفيات نماذج لغوية متعددة من خلال واجهة موحدة. تعمل كبوابة ذكاء اصطناعي مستضافة ذاتياً تتيح تنفيذ تسلسلات مهام معقدة وتدفقات محادثة مؤتمتة. يستخدم النظام إضافات JavaScript لتنسيق سير العمل وتشغيل استدعاءات API الخارجية. يدعم التوليد المعزز بالاسترجاع (RAG) عن طريق حقن البيانات ذات الصلة من مخازن المتجهات والملفات غير المتصلة بالإنترنت في المطالبات لزيادة دقة الاستجابة. تم بناء المنصة لنشر الشبكات الخاصة، وتتميز بإدارة الوصول متعدد المستخدمين والقدرة على تشغيل نماذج مفتوحة المصدر مكممة لتناسب قيود أجهزة معينة. كما تتضمن تتبع التاريخ القائم على الجلسة للحفاظ على سياق المحادثة.
Injects relevant data from vector stores and offline files into prompts to increase response accuracy.
Wenda هي منصة بنية تحتية وبوابة مستضافة ذاتياً لنشر النماذج اللغوية داخل الشبكات الداخلية لضمان خصوصية البيانات وأمنها. تعمل كمركز مركزي وبوابة API توحد الاتصال بين مختلف مشغلي النماذج غير المتصلين بالإنترنت ومقدمي الخدمات عبر الإنترنت من خلال واجهة واحدة. تتضمن المنصة منسق سير عمل يستخدم سكربتات مخصصة واستدعاءات API لأتمتة تدفقات المحادثة المعقدة وإعدادات النموذج. كما تدمج نظام استرجاع يعزز استجابات النموذج بمعرفة خارجية مسترجعة من قواعد بيانات المتجهات ومحركات البحث. يدير النظام حالة المحادثة والذاكرة من خلال الاحتفاظ بتاريخ الحوار في قاعدة بيانات للحفاظ على السياق عبر جلسات المستخدم. يستخدم نهج تكامل نمطي للسماح بإضافة مقدمي نماذج جدد دون تعديل التطبيق الأساسي.
Uses vector databases to perform retrieval augmented generation by injecting relevant document snippets into prompts.
Riot هو محرك بحث موزع وخادم فهرسة قائم على Go مصمم للفهرسة والاسترجاع بالنص الكامل. يعمل كنظام استرجاع يقوم بفرز المستندات حسب الصلة باستخدام خوارزميات ترتيب BM25، وتكرار المصطلح، وتكرار المستند العكسي. يوفر المحرك دعماً متخصصاً للغة الصينية، ويتميز بتجزئة النص المتزامنة وتعيين Pinyin الصوتي لمطابقة المدخلات الرومانية مع الأحرف. يستخدم بنية موزعة توظف تقسيم الفهرس القائم على التجزئة (hash-based sharding) لموازنة تحميل البيانات والإنتاجية عبر عقد خادم متعددة. يغطي النظام نطاقاً واسعاً من قدرات البحث، بما في ذلك تنفيذ استعلام المنطق البولياني، وتصفية القرب، وإدارة دورة حياة الفهرس في الوقت الفعلي. يحتفظ بفهرس سريع قابل للبحث في الذاكرة مع استخدام تخزين مدعوم بالقرص لاستمرارية البيانات ومتانتها. يتم تضمين أدوات مراقبة لتتبع استخدام الذاكرة والقرص و CPU عبر البيئة الموزعة.
Provides the ability to delete specific documents from the search index using their unique identifiers.
The official Go client for Elasticsearch
Removes a single document from a search index by its unique identifier.
GreptimeDB is a distributed, open-source time-series database built for unified observability. It stores and queries metrics, logs, and traces together in a single columnar engine, supporting both SQL and PromQL for analysis. The database is designed as a Kubernetes-native operator with a decoupled compute and storage architecture, enabling horizontal scaling and multi-region deployment. What distinguishes GreptimeDB is its role as a multi-protocol ingestion gateway, accepting data through OpenTelemetry, Prometheus Remote Write, InfluxDB, Loki, Elasticsearch, Kafka, and MQTT protocols without
Stores arrays of 32-bit floats with a fixed dimension specified at table creation for AI feature representation.
هذا المشروع هو مكتبة لقوالب سير عمل n8n مهيأة مسبقاً ومخططات هيكلية مصممة لأتمتة عمليات الأعمال ومهام الذكاء الاصطناعي. توفر مجموعة من ملفات JSON التي يمكن استيرادها إلى محرك سير العمل لنشر تسلسلات الأتمتة، بما في ذلك تكوينات متخصصة لدمج قواعد بيانات المتجهات والنماذج اللغوية الكبيرة. تركز المجموعة على تطوير وكلاء الذكاء الاصطناعي الواعين بالسياق، باستخدام مخازن الذاكرة وأنظمة الاسترجاع لإنشاء خطوط أنابيب ذكية لتوليد واسترجاع البيانات. تتضمن مخططات مخصصة للاسترجاع المعزز بالتوليد والبحث الدلالي من خلال تكاملات مخزن المتجهات. تغطي القوالب مجموعة واسعة من مجالات القدرة، بما في ذلك تحليل البيانات المدفوع بالذكاء الاصطناعي، وخطوط أنابيب المحتوى لإدارة الوسائط ووسائل التواصل الاجتماعي، والأتمتة الخاصة بالصناعة لقطاعات مثل القانون، والرعاية الصحية، والعقارات، والتجارة الإلكترونية. كما توفر سير عمل خدمي لأتمتة المهام المالية، وتحليل توظيف الموارد البشرية، ومراقبة البنية التحتية.
Provides specialized configurations for implementing retrieval augmented generation by connecting language models to vector stores.
Helicone is an AI gateway and observability platform designed to intercept, manage, and monitor interactions with large language models. By acting as a reverse-proxy, it provides a centralized layer for routing requests across multiple AI providers, allowing developers to maintain consistent application logic while gaining deep visibility into model performance, usage, and costs. The platform distinguishes itself through a robust suite of traffic management and prompt engineering tools. It enables policy-driven control, including automatic failover between providers, rate limiting, and edge-b
Records interactions with vector databases to monitor data retrieval and storage operations.
هذا المشروع عبارة عن عميل PHP API و SDK لدمج خدمات OpenAI في تطبيقات PHP. يعمل كمكتبة تكامل وغلاف للتفاعل مع النماذج اللغوية الكبيرة لإنشاء نصوص، وصور، وصوت عبر استدعاءات REST API. توفر المكتبة تنسيقاً متخصصاً لمساعدي الذكاء الاصطناعي، وإدارة سلاسل المحادثات ومخازن المتجهات. كما تتضمن أدوات لضبط النموذج المخصص، وتنفيذ البحث الدلالي من خلال تضمينات النصوص، ومعالجة الصوت للنسخ والتركيب. يغطي سطح الإمكانات اعتدال المحتوى، وإدارة الملفات، والتعامل مع الدردشة وإكمال النصوص. ويدعم تسليم البيانات في الوقت الفعلي عبر بث أحداث مرسلة من الخادم، والمعالجة المجمعة غير المتزامنة، والتحقق من توقيعات webhook.
Supports the organization and querying of high-dimensional embeddings in vector stores.