7 Repos
Interfaces for establishing communication with diverse external and local large language model providers.
Distinct from Hybrid Model Connectivity: Candidates are too specific (GLM, untrained, cloud-only); this covers the general ability to connect to various model types.
Explore 7 awesome GitHub repositories matching artificial intelligence & ml · Language Model Connectivity. Refine with filters or upvote what's useful.
Shell GPT is an AI-powered command-line interface that generates shell commands and source code from natural language prompts. It serves as a terminal-based tool for automating technical tasks, producing executable commands, and generating code snippets directly within the shell. The tool distinguishes itself through a read-eval-print loop for interactive chatting and the ability to maintain stateful conversational history via named sessions. It supports flexible backend routing, allowing users to connect to cloud-based APIs or local language model hosts for offline operation and data privacy
Provides a standard interface to connect to various external and local LLM providers.
Wenda ist eine selbstgehostete Infrastruktur- und Gateway-Plattform für das Deployment von Sprachmodellen innerhalb interner Netzwerke, um Datendatenschutz und Sicherheit zu gewährleisten. Sie fungiert als zentraler Hub und API-Gateway, das die Kommunikation zwischen verschiedenen Offline-Modell-Runnern und Online-Service-Providern über ein einziges Interface vereinheitlicht. Die Plattform enthält einen Workflow-Orchestrator, der benutzerdefinierte Skripte und API-Aufrufe verwendet, um komplexe Konversationsabläufe und Modelleinstellungen zu automatisieren. Zudem integriert sie ein Retrieval-System, das Modellantworten mit externem Wissen aus Vektordatenbanken und Suchmaschinen anreichert. Das System verwaltet den Konversationsstatus und das Gedächtnis durch Persistierung der Dialoghistorie in einer Datenbank, um den Kontext über Benutzersitzungen hinweg aufrechtzuerhalten. Es nutzt einen modularen Integrationsansatz, um das Hinzufügen neuer Modell-Provider zu ermöglichen, ohne die Kernanwendung modifizieren zu müssen.
Provides interfaces for establishing communication with both offline model runners and online service providers.
DeepChat is a desktop application that connects to multiple cloud and local AI model providers through a single unified chat interface, while also integrating external ACP-compatible coding and task agents as selectable models. It manages local AI agent sessions with project folders, permission modes, and resumable context for long-running tasks, and connects external tools and data sources via the Model Context Protocol using StreamableHTTP, SSE, or Stdio transports. The application distinguishes itself by supporting remote desktop session control, binding messaging app channels to sessions
Connects to cloud LLMs and local Ollama models through a unified interface without switching applications.
Dies ist ein Backend-as-a-Service-SDK, das Web- und mobile Anwendungen mit einer Suite von Cloud-Diensten verbindet. Es bietet ein einheitliches Interface für das Management von Benutzeridentitäten, die Ausführung serverloser Logik und die Handhabung von Cloud-Objektspeichern. Das Toolkit zeichnet sich durch seine Echtzeit-Datensynchronisation aus, die es ermöglicht, NoSQL-Dokumentendaten über mehrere Clients hinweg konsistent zu halten, inklusive integrierter Offline-Persistenz. Es erleichtert den sicheren Benutzerzugriff über eine Vielzahl von Identitätsanbietern und verwaltet den Aufruf serverloser Funktionen, um Backend-Logik als Reaktion auf HTTPS-Anfragen oder Datenbankereignisse auszuführen. Das SDK deckt ein breites Spektrum an operativen Fähigkeiten ab, einschließlich NoSQL- und relationalem Datenbankmanagement, Crash-Monitoring und Analysen des Benutzerverhaltens. Es bietet zudem Tools für die Remote-Anwendungskonfiguration, gezielte Push-Benachrichtigungen und die Integration von Large Language Models für KI-gestützte Funktionen. Das Projekt ist in TypeScript implementiert und bietet sprachspezifische Bibliotheken, die REST- und WebSocket-APIs in hochgradige Methoden abstrahieren.
Provides standard interfaces to connect applications with various external and local large language model providers.
lollms-webui ist eine webbasierte Benutzeroberfläche und ein lokaler KI-Modell-Orchestrator, der für die Interaktion mit und die Verwaltung von Large Language Models und multimodaler KI auf lokaler Hardware konzipiert ist. Es fungiert als generative KI-Multimedia-Suite, die die Erstellung von Text, Bildern, Video und Musik durch integrierte Diffusions- und Sprachmodelle ermöglicht. Das Projekt bietet einen dedizierten Persona-Manager zur Konfiguration von Verhaltensprofilen und distinkten Persönlichkeiten, die Stil und Tonfall der Modellantworten steuern. Es enthält ein lokales Speichersystem zur Aufrechterhaltung des langfristigen Konversationskontexts und der Chat-Historie über einen persistenten Speichermechanismus. Das System deckt breite Funktionen ab, einschließlich dynamischem Prompt-Routing zur Inferenz-Optimierung, GPU-Beschleunigung und einem modularen Binding-System zur Verknüpfung mit lokalen oder entfernten Modellanbietern. Es bietet zudem Tools zur Visualisierung von KI-Denkprozessen, zur Verwaltung von Chat-Historien in einer lokalen Datenbank und zur Erweiterung der Schnittstelle über ein Plugin-basiertes Tool-System. Das Deployment wird durch containerisierte Images unterstützt, um eine konsistente Ausführung über verschiedene Betriebssysteme hinweg sicherzustellen.
Interfaces with diverse local and remote language model providers to perform text generation.
Deep research ist ein automatisiertes System zur Forschungsgenerierung, das große Sprachmodelle und Websuchmaschinen nutzt, um umfassende Berichte und Deep-Dive-Analysen zu komplexen Themen zu synthetisieren. Es kombiniert Echtzeit-Websuchergebnisse mit hochgeladenen lokalen Dokumenten, um generierte Inhalte auf spezifischen Fakten zu fundieren. Das System verwendet einen iterativen Forschungsworkflow, um Berichte durch einen schrittweisen Prozess des Bearbeitens, Aktualisierens und Neustartens spezifischer Forschungsphasen zu verfeinern. Es kann unstrukturierte Berichtsdaten in Wissensgraph-Visualisierungen umwandeln, um Beziehungen zwischen verschiedenen Erkenntnissen abzubilden und die Struktur eines Forschungsprojekts zu organisieren. Zu den Funktionsbereichen gehören die Integration mehrerer KI-Modelle und Suchmaschinen, die Verwendung spezialisierter Vorlagen zur Definition des Forschungsumfangs sowie die Verwaltung der Forschungshistorie. Das System unterstützt zudem das Model Context Protocol, um Forschungsfähigkeiten und Datenströme mit externen Tools zu verbinden.
Integrates various language models and search engines to balance analysis depth with retrieval speed.
VirtualWife is a framework for creating interactive 3D digital companions powered by large language models. It integrates a browser-based rendering engine that synchronizes 3D model animations and facial expressions with AI-generated dialogue in real time, supported by a voice interaction system that converts text into synthesized speech. The system features a persona manager for defining role-play prompts, visual identities, and long-term conversational memory. It also includes a bridge for live streaming integration, allowing an AI avatar to interact with live audiences by monitoring commen
Enables connectivity to both third-party cloud LLM providers and private local model deployments.