awesome-repositories.com
Blog
awesome-repositories.com

Descoperă cele mai bune repository-uri open source cu căutare AI.

ExploreazăCăutări recomandateAlternative open-sourceSoftware self-hostedBlogHartă site
ProiectDespreCum realizăm clasamentulPresăServer MCP
LegalConfidențialitateTermeni
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

2 repository-uri

Awesome GitHub RepositoriesDocument Batching for Embedding

Splitting oversized document collections into smaller groups that fit within an embedding model's token limit.

Distinct from Document Embedding Generations: Distinct from Document Embedding Generations: focuses on batching documents to respect token limits, not parallel generation at scale.

Explore 2 awesome GitHub repositories matching data & databases · Document Batching for Embedding. Refine with filters or upvote what's useful.

Awesome Document Batching for Embedding GitHub Repositories

Găsește cele mai bune repo-uri cu AI.Vom căuta cele mai potrivite repository-uri folosind AI.
  • spring-projects/spring-aiAvatar spring-projects

    spring-projects/spring-ai

    9,001Vezi pe GitHub↗

    Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework

    Splits large document collections into smaller batches to fit within embedding model token limits.

    Javaartificial-intelligencejavaspring-ai
    Vezi pe GitHub↗9,001
  • timescale/pgaiAvatar timescale

    timescale/pgai

    5,802Vezi pe GitHub↗

    pgai este un toolkit și framework AI pentru PostgreSQL, conceput pentru a integra modele de limbaj mari (LLM) și vector embeddings direct în baza de date. Acesta servește drept punte pentru executarea cererilor către modele de machine learning și pentru efectuarea traducerilor text-to-SQL în cadrul interogărilor standard de bază de date. Proiectul oferă un pipeline automatizat de vector embedding care gestionează încărcarea, parsarea și fragmentarea textului din tabele și documente nestructurate. Acest sistem utilizează un background worker pentru a sincroniza automat embedding-urile pe măsură ce datele sursă se modifică și include instrumente specializate pentru construirea de aplicații de tip retrieval-augmented generation (RAG) și motoare de căutare semantică. Toolkit-ul acoperă domenii largi de capabilități, inclusiv procesarea datelor nestructurate cu OCR, crearea de cataloage semantice pentru maparea schemelor de bază de date în limbaj natural și implementarea căutărilor de similaritate de înaltă performanță prin indexare vectorială și reranking. De asemenea, permite îmbogățirea datelor, clasificarea și moderarea conținutului prin apelarea modelelor externe via SQL.

    Manages large-scale batch processing of embeddings with built-in resilience against failures and API rate limits.

    PLpgSQL
    Vezi pe GitHub↗5,802
  1. Home
  2. Data & Databases
  3. Large-Scale Data Computation
  4. Document Embedding Generations
  5. Document Batching for Embedding

Explorează sub-etichetele

  • Batch Embedding ManagementSystems for managing large-scale numerical data generation with failure resilience and rate limit handling. **Distinct from Document Batching for Embedding:** Focuses on the operational resilience and scaling of embedding generation, not just token-limit batching.
  • Embedding Input TemplatesTemplates used to structure source fields and metadata for optimal model input. **Distinct from Document Batching for Embedding:** Focuses on the formatting of the input string via templates rather than the batching of documents