3 dépôts
Processes large document collections and generates millions of embeddings in parallel using Spark or Ray.
Distinct from Large-Scale Data Computation: Distinct from Large-Scale Data Computation: focuses specifically on generating document embeddings at scale for vector search, not general data computation.
Explore 3 awesome GitHub repositories matching data & databases · Document Embedding Generations. Refine with filters or upvote what's useful.
Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework
Splits large document collections into smaller batches to fit within embedding model token limits.
Feast is an open-source feature store for machine learning that provides a central platform for defining, storing, and serving features across both training and inference workflows. It operates as a declarative system where feature definitions are written as code in Python files, synchronized to a central registry, and made available for low-latency online retrieval or point-in-time correct historical joins for training datasets. The project abstracts storage behind a pluggable architecture, allowing offline and online backends to be swapped without changing retrieval logic, and coordinates ma
Generates millions of document embeddings in parallel using distributed compute engines like Spark or Ray.
pgai est une boîte à outils et un framework d'IA pour PostgreSQL conçu pour intégrer des modèles de langage (LLM) et des embeddings vectoriels directement dans une base de données. Il sert de pont pour exécuter des requêtes de modèles de machine learning et effectuer des traductions texte-vers-SQL au sein de requêtes de base de données standard. Le projet fournit un pipeline automatisé d'embedding vectoriel qui gère le chargement, l'analyse et le découpage de texte provenant de tables et de documents non structurés. Ce système utilise un processus d'arrière-plan pour synchroniser automatiquement les embeddings à mesure que les données sources changent et inclut des outils spécialisés pour construire des applications de génération augmentée par récupération (RAG) et des moteurs de recherche sémantique. La boîte à outils couvre de vastes domaines de fonctionnalités, notamment le traitement de données non structurées avec OCR, la création de catalogues sémantiques pour mapper les schémas de base de données au langage naturel, et l'implémentation de recherches de similarité haute performance via l'indexation vectorielle et le reranking des résultats. Elle permet également l'enrichissement de données, la classification et la modération de contenu en appelant des modèles externes via SQL.
Manages large-scale batch processing of embeddings with built-in resilience against failures and API rate limits.