awesome-repositories.com
Blog
awesome-repositories.com

Entdecke die besten Open-Source-Repositories mit KI-gestützter Suche.

EntdeckenKuratierte SuchenOpen-Source-AlternativenSelf-hosted SoftwareBlogSitemap
ProjektÜber unsRanking-MethodikPresseMCP-Server
RechtlichesDatenschutzAGB
© 2026 Bringes Technology SRL·VAT RO45896025·hello@awesome-repositories.com
·

2 Repos

Awesome GitHub RepositoriesDocument Batching for Embedding

Splitting oversized document collections into smaller groups that fit within an embedding model's token limit.

Distinct from Document Embedding Generations: Distinct from Document Embedding Generations: focuses on batching documents to respect token limits, not parallel generation at scale.

Explore 2 awesome GitHub repositories matching data & databases · Document Batching for Embedding. Refine with filters or upvote what's useful.

Awesome Document Batching for Embedding GitHub Repositories

Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
  • spring-projects/spring-aiAvatar von spring-projects

    spring-projects/spring-ai

    9,001Auf GitHub ansehen↗

    Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework

    Splits large document collections into smaller batches to fit within embedding model token limits.

    Javaartificial-intelligencejavaspring-ai
    Auf GitHub ansehen↗9,001
  • timescale/pgaiAvatar von timescale

    timescale/pgai

    5,802Auf GitHub ansehen↗

    pgai ist ein PostgreSQL-KI-Toolkit und -Framework, das darauf ausgelegt ist, Large Language Models und Vektor-Embeddings direkt in eine Datenbank zu integrieren. Es dient als Brücke für die Ausführung von Anfragen an Machine-Learning-Modelle und die Durchführung von Text-zu-SQL-Übersetzungen innerhalb von Standard-Datenbankabfragen. Das Projekt bietet eine automatisierte Pipeline für Vektor-Embeddings, die das Laden, Parsen und Chunking von Text aus Tabellen und unstrukturierten Dokumenten übernimmt. Dieses System nutzt einen Hintergrund-Worker, um Embeddings automatisch zu synchronisieren, wenn sich Quelldaten ändern, und enthält spezialisierte Tools für den Aufbau von RAG-Anwendungen (Retrieval-Augmented Generation) und semantischen Suchmaschinen. Das Toolkit deckt breite Funktionsbereiche ab, darunter die Verarbeitung unstrukturierter Daten mittels OCR, die Erstellung semantischer Kataloge zur Abbildung von Datenbankschemata auf natürliche Sprache sowie die Implementierung von Hochleistungs-Ähnlichkeitssuchen durch Vektorindizierung und Result-Reranking. Zudem ermöglicht es Datenanreicherung, Klassifizierung und Content-Moderation durch den Aufruf externer Modelle via SQL.

    Manages large-scale batch processing of embeddings with built-in resilience against failures and API rate limits.

    PLpgSQL
    Auf GitHub ansehen↗5,802
  1. Home
  2. Data & Databases
  3. Large-Scale Data Computation
  4. Document Embedding Generations
  5. Document Batching for Embedding

Unter-Tags erkunden

  • Batch Embedding ManagementSystems for managing large-scale numerical data generation with failure resilience and rate limit handling. **Distinct from Document Batching for Embedding:** Focuses on the operational resilience and scaling of embedding generation, not just token-limit batching.
  • Embedding Input TemplatesTemplates used to structure source fields and metadata for optimal model input. **Distinct from Document Batching for Embedding:** Focuses on the formatting of the input string via templates rather than the batching of documents