1 Repo
Awesome GitHub RepositoriesAI Integration SDKs
Software development kits and language bindings for integrating AI capabilities into mobile and wearable applications.
Distinct from Creative SDK Integrations: Existing candidates focus on tool generators or game AI, not general multiplatform AI integration for mobile apps.
Explore 1 awesome GitHub repository matching mobile development · AI Integration SDKs. Refine with filters or upvote what's useful.
Awesome AI Integration SDKs GitHub Repositories
Finde die besten Repos mit KI.Wir suchen mit KI nach den am besten passenden Repositories.
- cactus-compute/cactus
cactus-compute/cactus
5,363Auf GitHub ansehenCactus ist eine On-Device-KI-Inferenz-Engine für die Ausführung von Large Language Models (LLMs), Vision-Modellen und Speech-to-Text-Systemen auf Mobil- und Wearable-Hardware. Sie bietet einen programmierbaren Tensor-Berechnungsgraphen zur Definition von Matrixoperationen und Aktivierungsfunktionen sowie ein lokales RAG-Framework (Retrieval Augmented Generation), das Modellantworten auf Basis lokaler Textdateien fundiert. Das Projekt umfasst ein Multiplattform-SDK mit Sprachbindungen zur Integration von KI-Funktionen in mobile Apps sowie ein Modellkonvertierungssystem, das externe Modellformate für eine optimierte lokale Ausführung transformiert. Es nutzt ein hybrides Routing-System, um Workloads je nach Hardwarekapazität zwischen On-Device-Ausführung und Cloud-Anbietern umzuleiten. Die Engine deckt ein breites Funktionsspektrum ab, einschließlich On-Device-Audioverarbeitung für Spracherkennung, Vektor-Embedding-Generierung für Ähnlichkeitssuche und Tool-Integration zur Analyse von Modellausgaben für externe Funktionsaufrufe. Diese Prozesse werden durch optimierte native Kernel unterstützt, die auf niedrige Latenz auf mobiler Hardware abgestimmt sind.
Ships a multiplatform SDK with language bindings for integrating local AI capabilities into mobile applications.
C++aiandroidarm
