Awesome GitHub RepositoriesRuntime Resource Sharing

MNN is a high-performance inference engine and framework designed for on-device machine learning. It provides a comprehensive environment for executing, optimizing, and deploying neural network models directly on mobile and resource-constrained edge devices. The framework distinguishes itself through a robust model optimization toolkit that supports quantization, compression, and structural graph manipulation to minimize memory footprint and maximize execution speed. It features a modular architecture that abstracts hardware-specific backends, allowing models to run efficiently across diverse

RealtimeSTT is a local speech-to-text engine and real-time automatic speech recognition server. It utilizes transformer-based recognition and omnilingual pipelines to convert live audio streams into text, providing a WebSocket-based streaming API for raw PCM audio transmission. The project is distinguished by a dual-backend transcription pipeline that uses a lightweight engine for immediate partial suggestions and a heavier model for final high-accuracy results. It includes a wake word detection system to trigger recording and employs a shared-resource inference model to distribute heavy spee

Agency Swarm is a multi-agent orchestration framework and development kit designed to coordinate specialized AI agents through defined communication patterns and handoffs. It functions as a system for managing agent swarms, providing an API gateway to expose these coordinated collectives as production-ready HTTP endpoints. The project distinguishes itself through its Model Context Protocol integration layer, which connects agents to external data sources and capabilities. It implements specialized orchestration patterns, such as the orchestrator-worker model and role-based delegation, to tran

Agent-OS is an LLM multi-agent orchestration framework and AI software development lifecycle tool designed to coordinate specialized agents through shared workspaces and structured task lists. It functions as an agentic application bootstrapper and technical specification engine, providing the infrastructure to guide the process from product requirements to automated coding and deployment. The system distinguishes itself through spec-driven development, using detailed technical specifications and layered context injection to ensure generated code aligns with project standards. It employs a ma

Oh-my-agent est un framework d'orchestration agnostique aux fournisseurs conçu pour gérer des équipes d'agents autonomes et automatiser des flux de travail d'ingénierie complexes. Il fonctionne comme un outil de développement multi-agents qui synchronise le comportement des agents, leurs compétences et les règles spécifiques au projet à travers divers environnements de développement et interfaces en ligne de commande. La plateforme se distingue par une projection basée sur la configuration, qui maintient une source de vérité unique pour les définitions d'agents qui sont mappées dans divers formats de runtime spécifiques aux fournisseurs. En utilisant un pontage de liens symboliques multiplateforme et un registre de compétences agnostique aux fournisseurs, elle garantit que les capacités modulaires et réutilisables restent cohérentes quel que soit l'assistant de codage IA ou l'IDE utilisé. Le système fournit une suite complète d'outils pour gérer le cycle de vie des agents, incluant l'indexation sémantique pour la navigation dans le code, des garde-fous d'exécution à ressources limitées pour gérer la consommation de jetons, et des portes de qualité automatisées pour la sécurité et la conformité. Il prend en charge l'orchestration de tâches en plusieurs étapes via des déclencheurs basés sur l'intention, permettant la planification de tâches de maintenance et l'exécution de binaires externes au sein de flux de travail définis. La configuration est gérée via des profils centralisés et une synchronisation automatisée, garantissant l'intégrité à travers les environnements de projet. Le système est conçu pour être installé et initialisé comme une couche fondamentale pour automatiser les tâches de développement, de recherche et d'infrastructure au sein d'un dépôt.