Awesome GitHub RepositoriesEmbedded AI Deployment

OpenCat-Quadruped-Robot es un framework de desarrollo y API de control de movimiento para construir robots de cuatro patas. Proporciona un entorno integral para el desarrollo de robots cuadrúpedos, con herramientas para el diseño de marchas de locomoción, cinemática inversa y una arquitectura de control en capas que separa la inteligencia de alto nivel del movimiento de bajo nivel. El proyecto se distingue como una herramienta de despliegue de IA embebida, permitiendo a los usuarios entrenar, cuantificar y desplegar modelos de machine learning en módulos de visión para tareas como la detección de objetos y el seguimiento visual de objetivos. Además, admite una interacción compleja entre humanos y robots mediante el procesamiento de comandos de voz offline, imitación de movimiento humano y una interfaz de programación visual por bloques para la generación de lógica gráfica. El sistema cubre una amplia superficie de capacidades, incluyendo estabilización de equilibrio en tiempo real mediante datos de IMU, navegación autónoma usando cámaras 3D y varias interfaces de control remoto mediante Bluetooth y WiFi. También incluye herramientas para la simulación de marchas robóticas, transferencia de políticas de aprendizaje por refuerzo y una API de Python dedicada para la integración de software externo. La gestión del firmware se maneja a través de un conjunto de herramientas de despliegue que soportan actualizaciones por USB, Bluetooth y actualizaciones inalámbricas (OTA) para placas base y módulos de microcontroladores.

ExecuTorch is a lightweight C++ runtime for deploying PyTorch models on mobile, embedded, and edge hardware. It provides an ahead-of-time compilation pipeline that exports, quantizes, and lowers model graphs into compact serialized programs, then executes them through a minimal runtime with hardware acceleration and on-device large language model inference capabilities. The project distinguishes itself through a hardware accelerator delegate system that partitions model subgraphs and offloads computation to specialized backends including NPUs, GPUs, and DSPs from Apple, Arm, Intel, MediaTek,

IREE is an MLIR-based compiler toolchain and runtime designed to translate machine learning models from various frameworks into optimized binaries for execution across diverse hardware targets. It provides a unified pipeline to ingest models from PyTorch, TensorFlow, JAX, and ONNX, lowering them into a common intermediate representation for deployment on CPUs, GPUs, and bare-metal embedded systems. The project distinguishes itself through a bytecode virtual machine and a hardware abstraction layer that decouple high-level model logic from specific hardware instruction sets. It supports sophis