3 repository-uri
Processes large document collections and generates millions of embeddings in parallel using Spark or Ray.
Distinct from Large-Scale Data Computation: Distinct from Large-Scale Data Computation: focuses specifically on generating document embeddings at scale for vector search, not general data computation.
Explore 3 awesome GitHub repositories matching data & databases · Document Embedding Generations. Refine with filters or upvote what's useful.
Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework
Splits large document collections into smaller batches to fit within embedding model token limits.
Feast is an open-source feature store for machine learning that provides a central platform for defining, storing, and serving features across both training and inference workflows. It operates as a declarative system where feature definitions are written as code in Python files, synchronized to a central registry, and made available for low-latency online retrieval or point-in-time correct historical joins for training datasets. The project abstracts storage behind a pluggable architecture, allowing offline and online backends to be swapped without changing retrieval logic, and coordinates ma
Generates millions of document embeddings in parallel using distributed compute engines like Spark or Ray.
pgai este un toolkit și framework AI pentru PostgreSQL, conceput pentru a integra modele de limbaj mari (LLM) și vector embeddings direct în baza de date. Acesta servește drept punte pentru executarea cererilor către modele de machine learning și pentru efectuarea traducerilor text-to-SQL în cadrul interogărilor standard de bază de date. Proiectul oferă un pipeline automatizat de vector embedding care gestionează încărcarea, parsarea și fragmentarea textului din tabele și documente nestructurate. Acest sistem utilizează un background worker pentru a sincroniza automat embedding-urile pe măsură ce datele sursă se modifică și include instrumente specializate pentru construirea de aplicații de tip retrieval-augmented generation (RAG) și motoare de căutare semantică. Toolkit-ul acoperă domenii largi de capabilități, inclusiv procesarea datelor nestructurate cu OCR, crearea de cataloage semantice pentru maparea schemelor de bază de date în limbaj natural și implementarea căutărilor de similaritate de înaltă performanță prin indexare vectorială și reranking. De asemenea, permite îmbogățirea datelor, clasificarea și moderarea conținutului prin apelarea modelelor externe via SQL.
Manages large-scale batch processing of embeddings with built-in resilience against failures and API rate limits.