1 个仓库
Awesome GitHub RepositoriesAI Integration SDKs
Software development kits and language bindings for integrating AI capabilities into mobile and wearable applications.
Distinct from Creative SDK Integrations: Existing candidates focus on tool generators or game AI, not general multiplatform AI integration for mobile apps.
Explore 1 awesome GitHub repository matching mobile development · AI Integration SDKs. Refine with filters or upvote what's useful.
Awesome AI Integration SDKs GitHub Repositories
用 AI 发现最棒的仓库。我们将通过 AI 为您搜索最匹配的仓库。
- cactus-compute/cactus
cactus-compute/cactus
5,363在 GitHub 上查看Cactus 是一个端侧 AI 推理引擎，专为在移动和可穿戴硬件上执行大语言模型、视觉模型和语音转文字系统而设计。它提供了一个用于定义矩阵运算和激活函数序列的可编程张量计算图，以及一个利用本地文本文件为模型响应提供依据的本地检索增强生成（RAG）框架。 该项目具有一个多平台 SDK，包含用于将 AI 功能集成到移动应用程序中的语言绑定，以及一个将外部模型格式转换为优化本地执行的模型转换系统。它利用混合路由系统，根据硬件容量在端侧执行和云端提供商之间重定向工作负载。 该引擎涵盖了广泛的功能面，包括用于语音活动检测和转录的端侧音频处理、用于相似性搜索的向量嵌入生成，以及用于将模型输出解析为外部函数调用的工具集成。这些过程由针对移动硬件低延迟性能优化的原生内核提供支持。
Ships a multiplatform SDK with language bindings for integrating local AI capabilities into mobile applications.
C++aiandroidarm
