awesome-repositories.com
Blog
awesome-repositories.com

Descubre los mejores repositorios open-source con nuestra búsqueda potenciada por IA.

ExplorarBúsquedas curadasAlternativas open-sourceSoftware autohospedableBlogMapa del sitio
ProyectoAcerca deCómo clasificamosPrensaServidor MCP
Aviso legalPrivacidadTérminos
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

2 repositorios

Awesome GitHub RepositoriesDocument Batching for Embedding

Splitting oversized document collections into smaller groups that fit within an embedding model's token limit.

Distinct from Document Embedding Generations: Distinct from Document Embedding Generations: focuses on batching documents to respect token limits, not parallel generation at scale.

Explore 2 awesome GitHub repositories matching data & databases · Document Batching for Embedding. Refine with filters or upvote what's useful.

Awesome Document Batching for Embedding GitHub Repositories

Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
  • spring-projects/spring-aiAvatar de spring-projects

    spring-projects/spring-ai

    9,001Ver en GitHub↗

    Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework

    Splits large document collections into smaller batches to fit within embedding model token limits.

    Javaartificial-intelligencejavaspring-ai
    Ver en GitHub↗9,001
  • timescale/pgaiAvatar de timescale

    timescale/pgai

    5,802Ver en GitHub↗

    pgai es un kit de herramientas y framework de IA para PostgreSQL diseñado para integrar modelos de lenguaje de gran tamaño (LLM) y embeddings vectoriales directamente en la base de datos. Actúa como un puente para ejecutar solicitudes de modelos de machine learning y realizar traducciones de texto a SQL dentro de consultas estándar de base de datos. El proyecto proporciona un pipeline automatizado de embeddings vectoriales que gestiona la carga, el análisis y la fragmentación de texto desde tablas y documentos no estructurados. Este sistema utiliza un worker en segundo plano para sincronizar los embeddings automáticamente a medida que cambian los datos de origen e incluye herramientas especializadas para crear aplicaciones de generación aumentada por recuperación (RAG) y motores de búsqueda semántica. El kit de herramientas cubre amplias áreas de capacidad, incluyendo el procesamiento de datos no estructurados con OCR, la creación de catálogos semánticos para mapear esquemas de bases de datos a lenguaje natural, y la implementación de búsquedas de similitud de alto rendimiento mediante indexación vectorial y reordenamiento de resultados. También permite el enriquecimiento de datos, la clasificación y la moderación de contenido llamando a modelos externos mediante SQL.

    Manages large-scale batch processing of embeddings with built-in resilience against failures and API rate limits.

    PLpgSQL
    Ver en GitHub↗5,802
  1. Home
  2. Data & Databases
  3. Large-Scale Data Computation
  4. Document Embedding Generations
  5. Document Batching for Embedding

Explorar subetiquetas

  • Batch Embedding ManagementSystems for managing large-scale numerical data generation with failure resilience and rate limit handling. **Distinct from Document Batching for Embedding:** Focuses on the operational resilience and scaling of embedding generation, not just token-limit batching.
  • Embedding Input TemplatesTemplates used to structure source fields and metadata for optimal model input. **Distinct from Document Batching for Embedding:** Focuses on the formatting of the input string via templates rather than the batching of documents