Awesome GitHub RepositoriesSemantic Document Retrieval

This repository is a collection of frameworks and guides for Llama models, functioning as a fine-tuning framework, an inference pipeline, and an AI workflow orchestrator. It provides tools for adapting large language models to specific datasets and domains. The project includes a parameter-efficient fine-tuning toolkit that utilizes techniques like low-rank adaptation to reduce memory and compute requirements. It also serves as an implementation guide for retrieval-augmented generation, combining model inference with external data retrieval to improve response accuracy. The capability surfac

Genkit is an open-source framework for building AI-powered applications. It provides a unified interface for connecting to hundreds of generative AI models from multiple providers, enabling text, image, audio, and video generation through a single API. The framework structures multi-step AI interactions—including chat, retrieval-augmented generation, tool use, and agentic workflows—as composable, traceable flows with built-in streaming and state management. The framework distinguishes itself through a comprehensive developer toolkit that includes a command-line interface and a local developer

Acest proiect este un plugin de bază de cunoștințe și manager de context RAG care utilizează o interfață de bază de date vectorială locală pentru a permite căutarea semantică și maparea relațiilor. Transformă textul în vectori numerici pentru a găsi note și fragmente corelate semantic pe baza semnificației conceptuale, nu doar a potrivirilor de cuvinte cheie. Sistemul se diferențiază printr-un vizualizator de grafuri semantice care mapează notele în clustere pentru a dezvălui conexiuni conceptuale. De asemenea, dispune de un manager de context capabil să grupeze note și fragmente locale în pachete reutilizabile pentru a oferi baze factuale solide pentru conversațiile cu modele de limbaj mari (LLM). Instrumentul acoperă o gamă largă de capabilități, inclusiv interogarea cunoștințelor în limbaj natural, executarea automatizată a fluxurilor de lucru pentru crearea de note și capacitatea de a ruta prompturile între modele AI locale și cele bazate pe cloud. Oferă mai multe interfețe de descoperire, cum ar fi indicatori de conținut corelat inline și un panou de subsol pentru afișarea documentelor similare în timpul procesului de editare.

DrQA este un sistem de răspuns la întrebări open-domain care preia documente relevante dintr-un corpus mare și extrage răspunsuri specifice la întrebări în limbaj natural. Este implementat ca un sistem de rețea neuronală care combină un motor de preluare a documentelor cu un model de înțelegere a citirii prin mașină. Sistemul utilizează o arhitectură de pipeline în două etape. Un retriever de documente coarse-grained utilizează vectori de cuvinte ponderați pentru a identifica documentele potențiale, în timp ce un model de înțelegere a citirii prin mașină fine-grained identifică și extrage fragmentul de text exact care conține răspunsul. Proiectul include, de asemenea, un generator de seturi de date pentru procesarea limbajului natural supervizat. Acest instrument creează exemple de antrenare prin potrivirea perechilor întrebare-răspuns cu paragrafele suport folosind euristici automate de șiruri. Codebase-ul oferă capabilități suplimentare pentru procesarea textului și tokenizare pentru a pregăti textul brut pentru procesarea rețelelor neuronale.

Acest proiect este o platformă bazată pe web concepută pentru retrieval-augmented generation, oferind o interfață conversațională care conectează modelele de limbaj la colecții de documente private. Funcționează ca un sistem cuprinzător pentru gestionarea bazelor de cunoștințe enterprise, permițând utilizatorilor să interogheze documente interne și să primească răspunsuri conștiente de context, verificate prin surse, printr-o interfață de chat în limbaj natural. Platforma se distinge prin integrarea căutării semantice bazate pe vectori cu gestionarea modulară a bazei de cunoștințe, permițând ingestia, segmentarea și indexarea documentelor în embedding-uri căutabile. Susține medii securizate, multi-utilizator, prin implementarea autentificării și autorizării bazate pe sesiune pentru a proteja informațiile sensibile. Mai mult, sistemul este construit pentru a gestiona operațiuni cu date de volum mare prin descărcarea procesării documentelor către worker-i asincroni în fundal și livrarea răspunsurilor modelului prin streaming în timp real pentru a menține responsivitatea interfeței. Dincolo de capabilitățile sale conversaționale de bază, framework-ul include utilitare pentru mentenanța bazei de date, cum ar fi backup-ul și restaurarea, și expune funcții de recuperare a cunoștințelor prin API-uri standard pentru integrarea cu aplicații externe. Sistemul este conceput pentru a susține atât modele de limbaj locale, cât și bazate pe cloud, oferind o arhitectură flexibilă pentru deployment-ul instrumentelor de inteligență a documentelor private.

Acest proiect oferă un framework pentru rularea modelelor de limbaj mari (LLM) și pentru interogarea bazată pe documente, totul local, pe hardware de consum. Prin integrarea unui motor de inferență bazat pe CPU cu o bază de date vectorială locală, permite procesarea informațiilor fără a depinde de API-uri cloud sau de unități de procesare grafică (GPU) specializate. Sistemul funcționează ca un utilitar CLI care gestionează întregul ciclu de viață al procesării datelor private. Acesta transformă fișierele text locale în embedding-uri vectoriale căutabile, permițând modelului să extragă contextul relevant și să își fundamenteze răspunsurile pe materialele sursă furnizate de utilizator. Prin utilizarea execuției de modele cuantizate, framework-ul reduce cerințele de memorie și calcul, facilitând operarea pe hardware standard. Proiectul include un pipeline complet pentru indexarea documentelor, regăsirea semantică și generarea conștientă de context. Asigură confidențialitatea datelor prin menținerea tuturor sarcinilor de ingestie a documentelor, generare de embedding-uri și inferență a modelului în mediul local.