Awesome GitHub RepositoriesLLM Plugin Orchestrators

OpenEvolve este un framework de algoritmi evolutivi care utilizează modele de limbaj mari pentru a descoperi și optimiza autonom algoritmi de programare. Funcționează ca un motor de descoperire a algoritmilor și instrument de căutare a codului, evoluând populații de programe candidate pentru a găsi implementări eficiente și optimizări specifice hardware-ului. Sistemul tratează atât codul, cât și instrucțiunile de sistem ca entități evolutive, utilizând un optimizator automat de prompt-uri pentru a rafina iterativ performanța modelului. Menține stabilitatea căutării prin gestionarea populației bazată pe nișe pentru a păstra diversitatea și utilizează un mecanism de feedback în buclă închisă care injectează erorile de runtime și log-urile înapoi în procesul de generare pentru repararea autonomă a bug-urilor. Framework-ul include, de asemenea, un orchestrator de agenți care agregă răspunsurile de la mai multe API-uri de modele folosind logică ponderată și strategii de fallback. Pentru a susține calculul științific, implementează execuția deterministă prin gestionarea unor semințe aleatorii (random seeds) consistente în toate componentele stochastice. Proiectul oferă un tablou de bord interactiv pentru vizualizarea progresului evoluției și a metricilor de performanță în timp real.

Wenda este o platformă de orchestrare LLM și un motor de flux de lucru personalizat conceput pentru a gestiona mai multe backend-uri de modele de limbaj printr-o interfață unificată. Funcționează ca un gateway AI auto-găzduit care permite executarea secvențelor complexe de sarcini și a fluxurilor de conversație automatizate. Sistemul utilizează plugin-uri JavaScript pentru a orchestra fluxurile de lucru și a declanșa apeluri API externe. Suportă generarea augmentată prin recuperare (RAG) prin injectarea datelor relevante din vector stores și fișiere offline în prompt-uri pentru a crește acuratețea răspunsului. Platforma este construită pentru implementări în rețele private, având gestionarea accesului multi-utilizator și capacitatea de a rula modele open source cuantizate pentru a se încadra în constrângeri hardware specifice. Include, de asemenea, urmărirea istoricului bazată pe sesiune pentru a menține contextul conversațional.

TaskWeaver is an LLM agent framework that interprets natural language requests and executes them as Python code, SQL queries, or shell commands. It functions as a conversational code interpreter that maintains stateful data structures across turns, generating executable code from user prompts within a session-based environment. The system is designed as a self-hosted AI agent platform that can be deployed in Docker, managing sessions and providing a web UI for data analytics and automation tasks. The framework distinguishes itself through a role-based multi-agent architecture that divides the

ChatGPT-On-CS este o platformă inteligentă de automatizare a serviciului clienți care utilizează modele de limbaj mari (LLM) pentru a automatiza interacțiunile pe rețelele sociale și platformele de e-commerce. Funcționează ca o punte de legătură între aceste modele și serviciile externe, oferind o interfață unificată pentru gestionarea chat-urilor din mai multe rețele și magazine online. Platforma dispune de un motor personalizat de baze de cunoștințe care permite crearea de agenți AI privați, antrenați pe documentele companiei încărcate. Include, de asemenea, un framework de plugin-uri care permite agenților AI să acceseze date în timp real de pe internet și funcții locale ale sistemului de operare pentru a-și extinde capabilitățile. Sistemul procesează conținut multimodal, inclusiv date text, voce și imagine, pentru a gestiona cerințe de comunicare diverse. Suportă generarea de răspunsuri printr-o combinație de RAG (retrieval-augmented generation) pentru răspunsuri specifice domeniului, plugin-uri externe și șabloane statice presetate pentru interacțiunile frecvente.

Gepetto is an IDA Pro plugin that integrates large language models directly into the reverse engineering workflow. It functions as a multi-provider LLM client, allowing users to explain decompiled functions, rename variables, and add comments to pseudocode, all while supporting multiple language model backends and a localized interface. The plugin distinguishes itself through a plugin-based architecture that abstracts multiple LLM providers behind a unified interface, enabling hot-swapping between providers and models without restarting IDA Pro. It also features a command-line interface bridg