Awesome GitHub RepositoriesPersistent Python Sessions

mistral.rs is an inference engine for large language models that runs locally and exposes models behind OpenAI and Anthropic-compatible APIs. It serves as a multi-model serving platform, capable of loading several models in a single server process with per-request routing and on-demand loading and unloading. The engine supports multimodal inference, processing text alongside images, video, audio, and speech inputs, and includes a quantized model deployment runtime that reduces memory use and speeds up inference on consumer hardware. The project distinguishes itself through an agentic tool exe

gptme este o platformă de orchestrare multi-agent concepută pentru inginerie software autonomă, integrare AI bazată pe terminal și navigare în cod îmbunătățită prin RAG. Permite implementarea agenților persistenți și a subagenților specializați pentru a descompune sarcini complexe și a executa fluxuri de lucru tehnice paralele. Sistemul se distinge printr-o combinație de automatizare GUI bazată pe viziune pentru controlul aplicațiilor desktop și mecanisme de patching chirurgical pentru modificări țintite ale codului sursă. Utilizează gestionarea memoriei bazată pe git pentru a menține un istoric versionat al identităților agenților, lecțiilor învățate și stărilor spațiului de lucru. Capabilitățile sale mai largi acoperă rutarea modelelor agnostice față de furnizor pe backend-uri AI locale și cloud, regăsirea semantică pentru context local și integrarea Model Context Protocol pentru a încărca dinamic instrumente externe. Proiectul include, de asemenea, o suită cuprinzătoare de inginerie software pentru debugging automat, refactoring și gestionarea repository-urilor GitHub. Platforma poate fi implementată ca un server self-hosted prin containere Docker, având o interfață de chat bazată pe web și randare desktop containerizată.