2 repositorios
Saving model internal deliberation steps and thinking process data for auditing and cost analysis.
Distinct from Data Persistence: Targets the persistence of 'thinking' tokens and reasoning traces specifically, not general application state
Explore 2 awesome GitHub repositories matching data & databases · Reasoning. Refine with filters or upvote what's useful.
Kiln es un workbench de desarrollo de LLM y framework de evaluación diseñado para diseñar, probar y optimizar prompts y agentes de IA. Funciona como un orquestador multi-agente y una herramienta de optimización RAG, proporcionando una interfaz visual para el desarrollo iterativo de sistemas de IA. El proyecto se distingue por un pipeline de fine-tuning integral que soporta entrenamiento de modelos sin código y destilación de razonamiento. Permite la creación de sistemas multi-agente jerárquicos donde actores especializados se coordinan mediante tool calling, e implementa un servidor de Model Context Protocol para exponer estos agentes y capacidades de búsqueda como herramientas estandarizadas para clientes externos. La plataforma cubre una amplia gama de capacidades, incluyendo puntuación automatizada por jueces de IA para control de calidad, generación de datos sintéticos para entrenamiento y evaluación, y recuperación híbrida vector-keyword para fundamentar las respuestas del modelo. También proporciona herramientas para la evolución de prompts, auditoría de trazas y gestión de datasets colaborativos mediante integración con Git. El workbench es accesible a través de una API REST autohospedable y una librería de Python dedicada para la ejecución programática de flujos de trabajo.
Saves model internal deliberation steps and thinking process data for auditing and evaluation.
ruby_llm is an LLM integration framework and AI agent orchestrator designed to connect applications to multiple large language model providers through a unified interface. It serves as a toolkit for building autonomous assistants with custom personas, managing structured output via JSON schemas, and implementing vector embedding engines for semantic search. The project distinguishes itself as an observability suite and multimodal toolkit. It provides specialized capabilities for tracking token usage, calculating model costs, and tracing workflows via OpenTelemetry, while supporting the proces
Saves reasoning output and token counts to a database for auditing and cost tracking.