1 Repo
Tools for inspecting the real-time execution and state of sequential LLM prompt interactions on remote servers.
Distinct from Remote Debugging: Specifically targets the debugging of LLM prompt chains rather than general application state.
Explore 1 awesome GitHub repository matching development tools & productivity · Prompt Chain Debugging. Refine with filters or upvote what's useful.
Rivet ist ein visueller LLM-Workflow-Designer und eine Engine für die Orchestrierung von KI-Agenten. Er dient als Entwicklungsumgebung für den Aufbau von RAG-Pipelines (Retrieval Augmented Generation) und als TypeScript-Bibliothek zum Einbetten visueller KI-Graphen und Prompt-Logik in JavaScript-Anwendungen. Das System zeichnet sich durch einen knotenbasierten Editor aus, der den Datenfluss zwischen Sprachmodellen, Vektordatenbanken und externen APIs abbildet. Es bietet spezialisierte Tools für Prompt-Engineering, einschließlich Schnittstellen für iterative Prompt-Verfeinerung und A/B-Tests, um die Qualität der Modellantworten zu verbessern. Die Plattform deckt ein breites Spektrum an Funktionen ab, einschließlich gerichteter Graph-Ausführung mit Unterstützung für parallele Verarbeitung und Schleifen, umfassender Observability für Echtzeit-Status-Debugging und Ausführungs-Replay sowie automatisierter Test-Frameworks zur Verifizierung des Agentenverhaltens durch Validierungssuiten. Es enthält zudem Unterstützung für Audiotranskription und Reasoning sowie eine Plugin-Architektur zur Definition benutzerdefinierter Knoten. Logik-Graphen werden als YAML-Dateien gespeichert, um Versionskontrolle und Zusammenarbeit zu ermöglichen.
Ships a tool to observe real-time execution of LLM workflows in running applications to identify issues.