3 Repos
Mechanisms for providing AI models with specific local data by injecting files or directories into the prompt context.
Distinct from Local Model Execution: None of the candidates cover the injection of external data into model context; they focus on loading weights or general local execution.
Explore 3 awesome GitHub repositories matching artificial intelligence & ml · Local Context Injection. Refine with filters or upvote what's useful.
Boxplayer is a cloud media player and storage manager that enables high-definition video streaming and file administration across multiple cloud storage providers through a unified interface. It functions as a cloud media player with subtitle and audio support, a metadata organizer for structuring media libraries, and a high-speed download manager using a multi-threaded engine. The project implements a Model Context Protocol server, which exposes cloud storage and media management functions as programmable tools and context for AI agents. This allows for AI-driven storage automation and the a
Parses local text and markdown documents to provide specific local data as context for AI models.
Dieses Projekt ist eine Erweiterung für JupyterLab, die Large-Language-Model-Provider und KI-Agenten direkt in Computational Notebooks integriert. Es fungiert als Integrationsschicht und Orchestrator, der generative KI-Backends mit einem Data-Science-Arbeitsbereich verbindet, um die Ausführung von KI-Prompts innerhalb von Notebook-Zellen und das Einfügen generierter Codeblöcke in Dokumente zu ermöglichen. Das System bietet ein kollaboratives Chat-Interface, in dem mehrere Benutzer in Echtzeit mit KI-Personas interagieren, Konversationsthreads teilen und Drag-and-Drop-Dateianhänge für den Kontext nutzen können. Es erlaubt die Erstellung benutzerdefinierter KI-Personas und die Integration spezialisierter Tools über Protokoll-Server, während eine provider-agnostische Schnittstelle beibehalten wird, um verschiedene Large-Language-Model-Backends auszutauschen. Die Funktionen umfassen die Automatisierung von Workflows wie Dateiverwaltung, Code-Debugging und Shell-Befehlsausführung. Um die Sicherheit zu gewährleisten, verwendet das Framework eine berechtigungsgesteuerte Ausführung, die eine explizite Benutzergenehmigung erfordert, bevor KI-Agenten Dateien ändern oder Systembefehle ausführen können.
Feeds notebook cells and local files into the AI prompt via a drag-and-drop attachment system.
Ramalama is a containerized runtime and management tool for large language models. It functions as an OCI AI model manager and registry client, allowing users to package, distribute, and execute AI models as standardized container images. The project differentiates itself by using OCI-compliant distribution for models and retrieval augmented generation assets, enabling the packaging of vector databases into immutable container images. It features hardware-aware image selection that automatically detects GPU or CPU capabilities to pull the most optimized image for the host environment. The sy
Ollama loads files or directories into the chat history to provide a model with specific local data.