Awesome GitHub RepositoriesChat Model Interfaces

LangChain is an orchestration framework designed for building, managing, and deploying applications powered by large language models. It provides a unified integration layer that normalizes disparate model provider APIs into a consistent set of primitives, enabling developers to build complex, multi-step AI workflows that manage state, memory, and tool execution. The project distinguishes itself through a durable execution runtime that maintains persistent state across long-running processes by checkpointing progress to external storage. It models agent workflows as directed graphs, allowing

Ktransformers is a comprehensive framework designed for the operation, fine-tuning, and serving of large language models. It functions as a heterogeneous inference engine and quantized execution runtime, enabling the deployment of massive models by distributing computational workloads across both CPU and GPU resources. This architecture allows users to bypass local memory constraints, making it possible to run and train models that exceed the capacity of a single device. The project distinguishes itself through specialized support for sparse architectures, particularly mixture-of-experts mode

Mistral Inference is a library for running Mistral large language models on a GPU, generating text from prompts with token streaming. It loads pretrained model weights from local disk or a remote registry into GPU memory, then produces output tokens one by one for real-time display in interactive applications. The library supports multimodal prompts that accept image URLs alongside text, enabling visual description and reasoning. It includes content safety guardrails that scan generated text against predefined policies to block or flag policy violations. For structured interactions, it provid

MiniCPM is a collection of small language models designed for local, on-device deployment in resource-constrained environments. The project focuses on running dense Transformer models on consumer hardware, including GPUs, CPUs, and Apple Silicon, without requiring custom code forks. The project distinguishes itself through heavy optimization for edge hardware, utilizing quantized weight compression in GGUF and MLX formats to reduce memory overhead. It implements advanced inference techniques such as speculative sampling and radix-tree prefix caching to accelerate generation speed and throughp

CopilotForXcode is an AI-powered coding assistant integrated directly into Xcode as a source editor extension. It functions as an agent that can automate multi-step project tasks, such as editing files, running terminal commands, and searching across the entire codebase, all while understanding the full context of the current Xcode project. The assistant provides a context-aware chat interface that answers coding questions based on open files, symbols, and recent edits. It also offers diff-based code review, analyzing changes to provide feedback on code quality and potential issues before mer

CodeCompanion is a Neovim plugin that brings large language model capabilities directly into the editor, enabling turn-based conversations with AI models in a dedicated chat buffer. It provides a comprehensive interface for interacting with LLMs, supporting multiple providers through a flexible adapter system that can route requests to various hosted or local language model services. The plugin distinguishes itself through its extensive context-sharing capabilities, allowing users to send buffer contents, visual selections, git diffs, LSP diagnostics, terminal output, quickfix lists, and view

freegpt-webui هي واجهة ويب ذاتية الاستضافة للتفاعل مع نماذج لغوية كبيرة. توفر واجهة أمامية تعتمد على الدردشة مصممة للتواصل مع نماذج GPT 3.5 وGPT 4. يتيح التطبيق الدردشة بدون مفتاح واجهة برمجة تطبيقات، مما يسمح للمستخدمين بالوصول إلى الذكاء الاصطناعي التحادثي لتوليد النصوص واسترجاع المعلومات دون تقديم أو إدارة مفاتيح مصادقة شخصية. يتعامل النظام مع دمج النموذج من خلال بوابة وكيل عكسي ويدعم معالجة التدفق غير المتزامنة لتوليد النصوص في الوقت الفعلي. يتم الاحتفاظ بتفضيلات المستخدم وسجل المحادثة عبر تخزين جلسة جانب العميل.

AIOS is an LLM agent operating system and orchestration kernel designed to manage memory, resource scheduling, and tool execution for multiple autonomous AI agents. It serves as a comprehensive framework for developing and deploying agents, featuring a dedicated resource manager that coordinates model backends, GPU memory, and isolated kernel instances. The system distinguishes itself through a semantic memory engine that uses vector search and autonomous clustering for long-term knowledge management, and a semantic file system that allows users to control computer files and system operations

AICommand هو وحدة تحكم في المحرر مدعومة بنماذج لغوية كبيرة (LLM) وأداة أتمتة مصممة لـ Unity Editor. تدمج نماذج لغوية كبيرة لترجمة مطالبات اللغة الطبيعية إلى أوامر قابلة للتنفيذ، مما يسمح للمستخدمين بمعالجة إعدادات بيئة التطوير والكائنات من خلال تعليمات نصية. يستخدم النظام خط أنابيب نص-إلى-إجراء (text-to-action) يستخدم تعيين الأوامر القائم على LLM واكتشاف API القائم على الانعكاس (reflection) لحل مدخلات اللغة الطبيعية إلى وظائف محرر محددة. تتيح هذه العملية تنفيذ وظائف محرر Unity عن طريق حل معرفات السلسلة إلى مقابض كود في وقت التشغيل. توفر الأداة واجهة دردشة متكاملة داخل بيئة التطوير لالتقاط مطالبات المستخدم. وتركز على أتمتة مهام الإعداد والتكوين المتكررة وتبسيط سير عمل محرك الألعاب من خلال استبدال التنقل اليدوي في القوائم بالتحكم باللغة الطبيعية.

ChatGPT.nvim هو إضافة لـ Neovim تعتمد على نماذج OpenAI اللغوية الكبيرة (LLM)، وتعمل كمساعد برمجي مدعوم بالذكاء الاصطناعي لإعادة هيكلة الكود، وإكماله، وإصلاح مقتطفات البرمجة. يعمل كأداة لأتمتة الأوامر المخصصة وعارض Markdown، مما يسمح للمستخدمين بالتفاعل مع النماذج اللغوية مباشرة داخل المحرر. يتميز المشروع بإطار عمل لتعريف شخصيات الذكاء الاصطناعي القابلة لإعادة الاستخدام ومهام معالجة النصوص المؤتمتة باستخدام أوامر النظام والقوالب. يتضمن نظام عرض متخصص يحول الردود إلى Markdown منسق مع كتل كود قابلة للطي. تغطي الإضافة واجهات الدردشة التفاعلية، والأوامر المدركة للسياق لملفات المشروع، وإجراءات الكود المؤتمتة لتصحيح القواعد وإصلاح الأخطاء. كما تنفذ إدارة آمنة للاعتمادات من خلال جلب مفاتيح API عبر أوامر خارجية بدلاً من التخزين الثابت.

Claudian is a framework that combines AI coding agents, knowledge base integration, and a multi-provider orchestrator for managed interactions with large language models. It functions as a browser extension that connects users to AI services through a sidebar and inline editing interface, providing a system for integrating agents into local directories to perform file operations, bash commands, and workspace searches. The project distinguishes itself with a multi-provider orchestrator that allows switching between different AI backends while maintaining separate conversation states and config