Awesome GitHub RepositoriesPersistent Python Sessions

mistral.rs is an inference engine for large language models that runs locally and exposes models behind OpenAI and Anthropic-compatible APIs. It serves as a multi-model serving platform, capable of loading several models in a single server process with per-request routing and on-demand loading and unloading. The engine supports multimodal inference, processing text alongside images, video, audio, and speech inputs, and includes a quantized model deployment runtime that reduces memory use and speeds up inference on consumer hardware. The project distinguishes itself through an agentic tool exe

gptme est une plateforme d'orchestration multi-agents conçue pour l'ingénierie logicielle autonome, l'intégration de l'IA dans le terminal et la navigation de code améliorée par RAG. Elle permet le déploiement d'agents persistants et de sous-agents spécialisés pour décomposer des tâches complexes et exécuter des flux de travail techniques parallèles. Le système se distingue par une combinaison d'automatisation d'interface graphique basée sur la vision pour contrôler les applications de bureau et de mécanismes de patch chirurgical pour des modifications ciblées du code source. Il utilise une gestion de mémoire basée sur git pour maintenir un historique versionné des identités des agents, des leçons apprises et des états de l'espace de travail. Ses capacités plus larges couvrent le routage de modèles agnostique aux fournisseurs à travers des backends d'IA locaux et cloud, la récupération sémantique pour le contexte local et l'intégration du Model Context Protocol pour charger dynamiquement des outils externes. Le projet inclut également une suite complète d'ingénierie logicielle pour le débogage automatisé, le refactoring et la gestion de dépôts GitHub. La plateforme peut être déployée en tant que serveur auto-hébergé via des conteneurs Docker, avec une interface de chat basée sur le web et un rendu de bureau conteneurisé.