Awesome GitHub RepositoriesExecution Environment Configurations

mistral.rs is an inference engine for large language models that runs locally and exposes models behind OpenAI and Anthropic-compatible APIs. It serves as a multi-model serving platform, capable of loading several models in a single server process with per-request routing and on-demand loading and unloading. The engine supports multimodal inference, processing text alongside images, video, audio, and speech inputs, and includes a quantized model deployment runtime that reduces memory use and speeds up inference on consumer hardware. The project distinguishes itself through an agentic tool exe

Buck2 est un outil de construction de monorepo programmable et un système de construction hermétique conçu pour gérer des projets à grande échelle avec des graphes de cibles complexes et des dépendances multi-langages. Il fonctionne comme un framework d'exécution à distance et un analyseur de graphe de dépendances, fournissant un moteur de mise en cache d'artefacts pour assurer des résultats de construction reproductibles et cohérents à travers différents environnements. Le système se distingue par un moteur de calcul incrémental qui recalcule uniquement les nœuds spécifiques dans un graphe de dépendances invalidés par des changements. Il utilise un stockage adressable par contenu pour la mise en cache des artefacts de construction et prend en charge la course à l'exécution à distance, où les actions de construction sont exécutées localement et à distance simultanément pour retourner le résultat le plus rapide. Sa surface de capacité couvre l'automatisation de la construction multi-langages, l'abstraction de la chaîne d'outils et la configuration basée sur des contraintes pour gérer les variantes de construction à travers les plateformes. Le projet inclut également des outils d'observabilité de la construction pour l'introspection de graphe et la détection de changement, ainsi que des mécanismes de contrôle d'accès pour restreindre la visibilité des cibles.