1 dépôt
Tools for inspecting the real-time execution and state of sequential LLM prompt interactions on remote servers.
Distinct from Remote Debugging: Specifically targets the debugging of LLM prompt chains rather than general application state.
Explore 1 awesome GitHub repository matching development tools & productivity · Prompt Chain Debugging. Refine with filters or upvote what's useful.
Rivet est un concepteur de workflow LLM visuel et un moteur d'orchestration d'agents IA. Il sert d'environnement de développement pour construire des pipelines de génération augmentée par récupération (RAG) et une bibliothèque TypeScript pour intégrer des graphes IA visuels et une logique de prompt dans des applications JavaScript. Le système se distingue par un éditeur basé sur des nœuds qui mappe le flux de données entre les modèles de langage, les bases de données vectorielles et les API externes. Il fournit des outils spécialisés pour l'ingénierie de prompts, incluant des interfaces pour le raffinement itératif des prompts et les tests A/B pour améliorer la qualité des réponses du modèle. La plateforme couvre un large éventail de capacités, incluant l'exécution de graphes dirigés avec prise en charge du traitement parallèle et des boucles, une observabilité complète pour le débogage d'état en temps réel et la relecture d'exécution, et des frameworks de test automatisés pour vérifier le comportement de l'agent via des suites de validation. Il inclut également la prise en charge de la transcription et du raisonnement audio, ainsi qu'une architecture de plugin pour définir des nœuds personnalisés. Les graphes logiques sont stockés sous forme de fichiers YAML pour permettre le contrôle de version et la collaboration.
Ships a tool to observe real-time execution of LLM workflows in running applications to identify issues.