Awesome GitHub RepositoriesAI Integration Tools

Flow is an orchestration framework for designing and executing complex workflows using autonomous agents powered by large language models. It serves as a toolkit for constructing agentic pipelines and a runtime for managing agent lifecycles, session states, and tool execution. The project is distinguished by its support for hierarchical swarm management, where director agents decompose large projects into smaller tasks for specialized worker agents. It enables multiple coordination patterns, including sequential linear pipelines and concurrent execution where agents analyze tasks from differe

This is a full-featured chatbot framework and Next.js web application designed for integrating various large language model providers into a web interface. It serves as a template for building AI chatbots that can generate text and structured data through a unified interface. The project functions as an authenticated AI application, incorporating built-in user identity verification and session management. It includes a suite for AI tool integration, allowing language models to execute tool calls and generate structured objects by connecting to external data and functions. The framework provi

Agentic is a tool marketplace and management platform designed for the Model Context Protocol. It provides a gateway and proxy that enables the discovery, publishing, and distribution of vetted tools for agentic AI frameworks. The platform specializes in Model Context Protocol monetization, allowing developers to transform services into paid products through integrated authentication, usage-based billing, and subscription management. It also includes a converter that transforms OpenAPI specifications into compatible protocol servers for use in AI workflows. The system covers a broad range of

This project is an on-device AI SDK providing a framework for running large language models, vision models, and speech models locally. It serves as an orchestration layer for local LLM execution, ensuring data privacy and offline availability by utilizing hardware acceleration on the device. The SDK is distinguished by its comprehensive voice and multimodal capabilities, including a coordinated voice pipeline for activity detection, speech-to-text, and text-to-speech synthesis. It also provides a dedicated implementation kit for local retrieval-augmented generation and tools for processing co

Cactus est un moteur d'inférence IA embarqué conçu pour exécuter des grands modèles de langage (LLM), des modèles de vision et des systèmes de synthèse vocale sur mobile et objets connectés. Il fournit un graphe de calcul de tenseurs programmable pour définir des séquences d'opérations matricielles et de fonctions d'activation, ainsi qu'un framework de RAG (Retrieval Augmented Generation) local qui base les réponses du modèle sur des fichiers texte locaux. Le projet propose un SDK multiplateforme avec des bindings pour intégrer des capacités d'IA dans des applications mobiles, ainsi qu'un système de conversion de modèles qui transforme des formats externes pour une exécution locale optimisée. Il utilise un système de routage hybride pour rediriger les charges de travail entre l'exécution sur l'appareil et des fournisseurs cloud selon la capacité matérielle. Le moteur couvre une large surface de capacités, incluant le traitement audio sur l'appareil pour la détection d'activité vocale et la transcription, la génération d'embeddings vectoriels pour la recherche de similarité, et l'intégration d'outils pour parser les sorties des modèles en appels de fonctions externes. Ces processus sont supportés par des noyaux natifs optimisés pour une faible latence sur matériel mobile.

Ce projet est un framework agentique et un orchestrateur Llama Stack utilisé pour construire des applications IA autonomes. Il coordonne l'inférence de modèles et l'exécution d'outils pour décomposer des objectifs complexes en chaînes de raisonnement multi-étapes et en boucles d'inférence continues. Le framework intègre un système de garde-fous de sécurité dédié qui filtre les entrées et sorties du modèle via des modèles de sécurité pour appliquer des restrictions de contenu au niveau du système. Il inclut également une couche d'intégration d'outils qui mappe les requêtes de fonctions générées par le modèle vers des définitions d'exécution externes pour effectuer des actions au-delà de la simple génération de texte. Le système fournit des capacités de génération augmentée par récupération (RAG) en extrayant des embeddings de documents depuis des bases de données vectorielles pour injecter des connaissances externes dans les prompts du modèle. Ces services sont exposés via une couche API unifiée qui prend en charge les scripts programmatiques et les interfaces de chat graphiques.