Awesome GitHub RepositoriesLLM Plugin Orchestrators

OpenEvolve ist ein Framework für evolutionäre Algorithmen, das Large Language Models nutzt, um autonom Programmieralgorithmen zu entdecken und zu optimieren. Es fungiert als Engine zur Algorithmen-Entdeckung und als Code-Suchwerkzeug, das Populationen von Programm-Kandidaten weiterentwickelt, um effiziente Implementierungen und hardware-spezifische Geschwindigkeitsvorteile zu finden. Das System behandelt sowohl Code als auch Systemanweisungen als evolvierbare Einheiten und nutzt einen automatisierten Prompt-Optimierer, um die Modellleistung iterativ zu verfeinern. Es erhält die Suchstabilität durch nischenbasiertes Populationsmanagement, um die Vielfalt zu bewahren, und verwendet einen Closed-Loop-Feedback-Mechanismus, der Laufzeitfehler und Logs zur autonomen Fehlerbehebung zurück in den Generierungsprozess einspeist. Das Framework enthält zudem einen Agent-Orchestrator, der Antworten von mehreren Modell-APIs unter Verwendung gewichteter Logik und Fallback-Strategien aggregiert. Zur Unterstützung wissenschaftlicher Berechnungen implementiert es deterministische Ausführung durch die Verwaltung konsistenter Zufalls-Seeds über alle stochastischen Komponenten hinweg. Das Projekt bietet ein interaktives Dashboard zur Visualisierung des Evolutionsfortschritts und von Echtzeit-Leistungsmetriken.

Wenda ist eine LLM-Orchestrierungsplattform und eine benutzerdefinierte Workflow-Engine, die darauf ausgelegt ist, mehrere Sprachmodell-Backends über ein einheitliches Interface zu verwalten. Sie fungiert als selbstgehostetes AI-Gateway, das die Ausführung komplexer Aufgabenfolgen und automatisierter Konversationsabläufe ermöglicht. Das System nutzt JavaScript-Plugins, um Workflows zu orchestrieren und externe API-Aufrufe auszulösen. Es unterstützt Retrieval Augmented Generation (RAG), indem relevante Daten aus Vektorspeichern und Offline-Dateien in Prompts injiziert werden, um die Antwortgenauigkeit zu erhöhen. Die Plattform ist für Deployments in privaten Netzwerken konzipiert und bietet Multi-User-Zugriffsmanagement sowie die Möglichkeit, quantisierte Open-Source-Modelle auszuführen, um spezifische Hardware-Beschränkungen einzuhalten. Zudem enthält sie sitzungsbasiertes History-Tracking, um den Konversationskontext beizubehalten.

TaskWeaver is an LLM agent framework that interprets natural language requests and executes them as Python code, SQL queries, or shell commands. It functions as a conversational code interpreter that maintains stateful data structures across turns, generating executable code from user prompts within a session-based environment. The system is designed as a self-hosted AI agent platform that can be deployed in Docker, managing sessions and providing a web UI for data analytics and automation tasks. The framework distinguishes itself through a role-based multi-agent architecture that divides the

ChatGPT-On-CS ist eine intelligente Plattform zur Automatisierung des Kundenservice, die große Sprachmodelle (LLMs) nutzt, um Interaktionen über soziale Medien und E-Commerce-Plattformen hinweg zu automatisieren. Sie fungiert als Brücke zwischen diesen Modellen und externen Diensten und bietet eine einheitliche Schnittstelle zur Verwaltung von Chats aus verschiedenen Netzwerken und Online-Shops. Die Plattform verfügt über eine benutzerdefinierte Wissensdatenbank-Engine, die das Erstellen privater KI-Agenten ermöglicht, die mit hochgeladenen Unternehmensdokumenten trainiert wurden. Zudem enthält sie ein Plugin-Framework, mit dem KI-Agenten auf Echtzeit-Internetdaten und lokale Betriebssystemfunktionen zugreifen können, um ihre Fähigkeiten zu erweitern. Das System verarbeitet multimodale Inhalte, einschließlich Text, Sprache und Bilddaten, um vielfältige Kommunikationsanforderungen zu erfüllen. Es unterstützt die Generierung von Antworten durch eine Kombination aus Retrieval-Augmented Generation (RAG) für domänenspezifische Antworten, externen Plugins und statischen Vorlagen für häufige Interaktionen.

Gepetto is an IDA Pro plugin that integrates large language models directly into the reverse engineering workflow. It functions as a multi-provider LLM client, allowing users to explain decompiled functions, rename variables, and add comments to pseudocode, all while supporting multiple language model backends and a localized interface. The plugin distinguishes itself through a plugin-based architecture that abstracts multiple LLM providers behind a unified interface, enabling hot-swapping between providers and models without restarting IDA Pro. It also features a command-line interface bridg