6 repositorios
Systems that route tasks to different large language models and wrap custom algorithms as reusable plugins for agent execution.
Distinct from Plugin Orchestration: Distinct from generic Plugin Orchestration: focuses on orchestrating LLM-specific plugins and model routing, not general application extensions.
Explore 6 awesome GitHub repositories matching development tools & productivity · LLM Plugin Orchestrators. Refine with filters or upvote what's useful.
OpenEvolve es un framework de algoritmos evolutivos que utiliza modelos de lenguaje de gran tamaño para descubrir y optimizar algoritmos de programación de forma autónoma. Funciona como un motor de descubrimiento de algoritmos y herramienta de búsqueda de código, evolucionando poblaciones de programas candidatos para encontrar implementaciones eficientes y mejoras de velocidad específicas para el hardware. El sistema trata tanto el código como las instrucciones del sistema como entidades evolutivas, utilizando un optimizador de prompts automatizado para refinar iterativamente el rendimiento del modelo. Mantiene la estabilidad de la búsqueda mediante la gestión de poblaciones basada en nichos para preservar la diversidad y emplea un mecanismo de retroalimentación de bucle cerrado que inyecta errores de tiempo de ejecución y registros de vuelta al proceso de generación para la corrección autónoma de errores. El framework también incluye un orquestador de agentes que agrega respuestas de múltiples APIs de modelos utilizando lógica ponderada y estrategias de respaldo. Para apoyar la computación científica, implementa la ejecución determinista gestionando semillas aleatorias consistentes en todos los componentes estocásticos. El proyecto proporciona un panel interactivo para visualizar el progreso de la evolución y métricas de rendimiento en tiempo real.
Implements a system to route tasks across multiple LLM APIs using weighted logic and fallback strategies.
Manages multiple AI characters in a group chat by coordinating their responses through a plugin system.
Wenda es una plataforma de orquestación de LLM y motor de flujo de trabajo personalizado diseñado para gestionar múltiples backends de modelos de lenguaje a través de una interfaz unificada. Funciona como una puerta de enlace de IA autohospedada que permite la ejecución de secuencias de tareas complejas y flujos de conversación automatizados. El sistema utiliza plugins de JavaScript para orquestar flujos de trabajo y activar llamadas a APIs externas. Admite generación aumentada por recuperación (RAG) inyectando datos relevantes desde almacenes vectoriales y archivos offline en los prompts para aumentar la precisión de las respuestas. La plataforma está construida para despliegues en redes privadas, con gestión de acceso multiusuario y la capacidad de ejecutar modelos de código abierto cuantizados para ajustarse a restricciones de hardware específicas. También incluye seguimiento de historial basado en sesiones para mantener el contexto conversacional.
Utilizes JavaScript plugins to manage conversation flows, trigger external API calls, and automate task sequences.
TaskWeaver is an LLM agent framework that interprets natural language requests and executes them as Python code, SQL queries, or shell commands. It functions as a conversational code interpreter that maintains stateful data structures across turns, generating executable code from user prompts within a session-based environment. The system is designed as a self-hosted AI agent platform that can be deployed in Docker, managing sessions and providing a web UI for data analytics and automation tasks. The framework distinguishes itself through a role-based multi-agent architecture that divides the
Routes tasks to different LLMs and wraps custom algorithms as reusable plugins for agent execution.
ChatGPT-On-CS es una plataforma de automatización de atención al cliente inteligente que utiliza modelos de lenguaje de gran tamaño (LLM) para automatizar interacciones en redes sociales y plataformas de comercio electrónico. Funciona como un puente que conecta estos modelos con servicios externos, proporcionando una interfaz unificada para gestionar chats de múltiples redes y tiendas online. La plataforma cuenta con un motor de base de conocimientos personalizado que permite crear agentes de IA de dominio privado entrenados con documentos de la empresa. También incluye un framework de plugins que permite a los agentes de IA acceder a datos de internet en tiempo real y a funciones del sistema operativo local para ampliar sus capacidades. El sistema procesa contenido multimodal, incluyendo texto, voz e imágenes, para manejar diversos requisitos de comunicación. Admite la generación de respuestas mediante una combinación de generación aumentada por recuperación (RAG) para respuestas específicas del dominio, plugins externos y plantillas preestablecidas para interacciones frecuentes.
Wraps custom algorithms and external resource access as reusable plugins for agent execution.
Gepetto is an IDA Pro plugin that integrates large language models directly into the reverse engineering workflow. It functions as a multi-provider LLM client, allowing users to explain decompiled functions, rename variables, and add comments to pseudocode, all while supporting multiple language model backends and a localized interface. The plugin distinguishes itself through a plugin-based architecture that abstracts multiple LLM providers behind a unified interface, enabling hot-swapping between providers and models without restarting IDA Pro. It also features a command-line interface bridg
Wraps multiple LLM providers behind a unified interface, allowing hot-swapping without restarting the host application.