Awesome GitHub RepositoriesOpenAI API Clients

Notion-style WYSIWYG editor with AI-powered autocompletion.

This project is a web-based user interface for interacting with large language models via API keys. It functions as an OpenAI API client and a general LLM web chat interface, allowing users to send prompts and receive responses through a private web portal. The application features a security layer with password-based access control to restrict public usage. It supports custom request routing and proxy configurations to bypass network restrictions, and it is available as a progressive web app for native-like installation on mobile devices. The interface includes rich text rendering for Markd

This project is a serverless application that integrates OpenAI models with the LINE messaging platform. It functions as a bridge to enable real-time conversations, text generation, image creation, and speech-to-text transcription within the messaging interface. The system is designed for cloud-native deployment on Vercel, utilizing serverless functions and webhooks to handle API traffic. It features environment-driven configuration to manage bot personalities, API secrets, and access controls such as user or group limits. Beyond basic chat, the assistant includes conversational orchestratio

BAML is a prompt engineering framework and LLM client generator that defines AI prompts as type-safe functions. It serves as a structured data extraction tool and workflow orchestrator, transforming unstructured model responses into strongly typed objects using a custom schema language and alignment algorithms. The project distinguishes itself by using a compiler to generate language-specific boilerplate code for API communication and output parsing. It features a dedicated environment for designing complex prompt templates with conditional logic and reusable snippets, and employs genetic alg

big-AGI is a self-hosted AI frontend and multi-model client that provides a unified workspace for interacting with various large language models. It functions as an orchestration dashboard, allowing users to connect to cloud-based AI providers, aggregator services, and locally hosted model servers. The project is distinguished by its ability to execute prompts across multiple models simultaneously for side-by-side comparison and response synthesis. It enables the merging of outputs from different models to reduce hallucinations and improve accuracy, while using persona-based configuration map

This is an open-source Python SDK for building and orchestrating production-grade AI agents. It provides a unified framework for creating conversational agents that can use tools, maintain state, and coordinate across multiple language model providers including OpenAI, Anthropic, Google, Amazon Bedrock, and locally-hosted models. The SDK supports multi-agent orchestration through graphs, teams, and swarms, allowing several specialized agents to collaborate on complex tasks. Agents can be composed as callable tools that other agents invoke, and the framework includes policy handlers that inspe

Dynamo is a distributed inference orchestration platform designed for large language models. It functions as a system to coordinate prefill and decode phases across GPU nodes, utilizing a multi-backend runtime adapter to connect engines like vLLM and TensorRT-LLM through a unified block-oriented memory interface. An OpenAI-compatible API server provides the frontend for integration with existing tools and clients. The project is distinguished by its disaggregated serving architecture, which separates prompt processing and token generation onto independent GPU pools to optimize throughput and

TaskWeaver is an LLM agent framework that interprets natural language requests and executes them as Python code, SQL queries, or shell commands. It functions as a conversational code interpreter that maintains stateful data structures across turns, generating executable code from user prompts within a session-based environment. The system is designed as a self-hosted AI agent platform that can be deployed in Docker, managing sessions and providing a web UI for data analytics and automation tasks. The framework distinguishes itself through a role-based multi-agent architecture that divides the

Ell is a Python library that treats prompts as callable functions, transforming a Python function into a language model program where the docstring defines the system message and the return value defines the user message. It provides a framework for writing language model programs that can accept and return images, audio, and text natively within message objects, and supports chaining multiple model calls into a single function for multi-step reasoning or test-time compute. The library decouples model selection from client instantiation through a registry that supports multiple provider backe

यह प्रोजेक्ट PHP एप्लिकेशन में OpenAI सेवाओं को इंटीग्रेट करने के लिए एक PHP API क्लाइंट और SDK है। यह REST API कॉल्स के माध्यम से टेक्स्ट, चित्र और ऑडियो उत्पन्न करने के लिए लार्ज लैंग्वेज मॉडल्स के साथ इंटरैक्ट करने के लिए एक एकीकरण लाइब्रेरी और रैपर के रूप में कार्य करता है। यह लाइब्रेरी AI सहायकों के लिए विशेष ऑर्केस्ट्रेशन प्रदान करती है, जो वार्तालाप थ्रेड्स और वेक्टर स्टोर्स को मैनेज करती है। इसमें कस्टम मॉडल फ़ाइन-ट्यूनिंग, टेक्स्ट एम्बेडिंग के माध्यम से सिमेंटिक सर्च कार्यान्वयन और ट्रांसक्रिप्शन व सिंथेसिस के लिए ऑडियो प्रोसेसिंग के लिए टूल भी शामिल हैं। क्षमता सतह कंटेंट मॉडरेशन, फ़ाइल मैनेजमेंट और चैट व टेक्स्ट कंप्लीशन को संभालने को कवर करती है। यह सर्वर-सेंट इवेंट्स स्ट्रीमिंग, एसिंक्रोनस बैच प्रोसेसिंग और वेबहुक सिग्नेचर के सत्यापन के माध्यम से रीयल-टाइम डेटा डिलीवरी का समर्थन करती है।

openai-java एक Java क्लाइंट लाइब्रेरी और सॉफ्टवेयर डेवलपमेंट किट है जिसे OpenAI सेवाओं को Java एप्लिकेशन्स में एकीकृत करने के लिए डिज़ाइन किया गया है। यह बड़े भाषा मॉडल एंडपॉइंट्स के लिए एक प्रोग्रामेटिक रैपर के रूप में कार्य करता है, जो चैट कंप्लीशन्स, टेक्स्ट एम्बेडिंग्स और AI एजेंट्स के ऑर्केस्ट्रेशन जैसी जेनरेटिव AI क्षमताओं के कार्यान्वयन को सक्षम बनाता है। यह लाइब्रेरी इमेजेस के निर्माण और संपादन, साथ ही ऑडियो ट्रांसक्रिप्शन और अनुवाद सहित मल्टीमॉडल कार्यों की एक विस्तृत श्रृंखला का समर्थन करती है। यह मॉडल ट्रेनिंग और फाइन-ट्यूनिंग के लिए विशेष टूल्स प्रदान करती है, जिससे यूज़र्स को विशिष्ट डोमेन पर मॉडल परफॉरमेंस में सुधार करने के लिए डेटासेट अपलोड करने की अनुमति मिलती है। इसके अतिरिक्त, इसमें सुरक्षा दिशानिर्देशों के खिलाफ इनपुट और आउटपुट को फिल्टर करने के लिए कस्टम फंक्शन निष्पादन और कंटेंट मॉडरेशन की क्षमताएं शामिल हैं। यह SDK रिक्वेस्ट निर्माण के लिए बिल्डर पैटर्न का उपयोग करता है और API रिसोर्सेज को स्ट्रॉन्गली टाइप्ड Java क्लासेस में मैप करता है। यह रियल-टाइम रिस्पॉन्स स्ट्रीमिंग के लिए सर्वर-सेंट इवेंट्स के माध्यम से सिंक्रोनस रिक्वेस्ट-रिस्पॉन्स साइकिल्स और इंक्रीमेंटल डेटा डिलीवरी दोनों का समर्थन करता है।

AdalFlow एक ऑटोनॉमस AI एजेंट फ्रेमवर्क और LLM एप्लिकेशन लाइब्रेरी है जिसे मॉड्यूलर वर्कफ़्लो बनाने के लिए डिज़ाइन किया गया है। यह एक मॉडल-अग्नोस्टिक इंटरफ़ेस और RAG पाइपलाइन ऑर्केस्ट्रेटर के रूप में कार्य करता है, जो उपयोगकर्ताओं को ReAct एजेंट विकसित करने की अनुमति देता है जो जटिल कार्यों को हल करने के लिए पुनरावृत्ति तर्क (iterative reasoning) और बाहरी टूल निष्पादन का उपयोग करते हैं। यह प्रोजेक्ट एक प्रॉम्प्ट ऑप्टिमाइज़ेशन सिस्टम के माध्यम से खुद को अलग करता है जो प्रॉम्प्ट टेम्पलेट्स और फ्यू-शॉट उदाहरणों को स्वचालित रूप से रिफाइन करने के लिए टेक्स्टुअल ग्रेडिएंट डिसेंट का उपयोग करता है। यह मॉडल फीडबैक को एक डिफरेंशिएबल सिग्नल के रूप में मानता है, जो इवैल्यूएशन मेट्रिक्स के आधार पर आउटपुट गुणवत्ता को पुनरावृत्ति रूप से सुधारने के लिए LLM बैकप्रोपैगेशन के एक रूप को सक्षम बनाता है। यह फ्रेमवर्क एक व्यापक क्षमता सतह को कवर करता है, जिसमें सिमेंटिक वेक्टर सर्च और री-रैंकिंग के साथ रिट्रीवल-ऑगमेंटेड जनरेशन, ऑब्जर्वेबिलिटी के लिए स्पैन-आधारित निष्पादन ट्रेसिंग और स्कीमा-संचालित स्ट्रक्चर्ड पार्सिंग शामिल है। यह कई प्रोप्राइटरी और ओपन-सोर्स मॉडल प्रदाताओं के लिए एक एकीकृत संचार परत प्रदान करता है और Python फंक्शन्स को मानकीकृत टूल इंटरफेस में बदलने का समर्थन करता है। यह सिस्टम Python में लागू किया गया है और वर्कफ़्लो ट्रैकिंग और विश्लेषण के लिए MLflow के साथ एकीकृत होता है।

This project is an Android application that integrates OpenAI language models to provide real-time conversational AI experiences. It functions as a native mobile client, enabling users to send queries to remote language services and view the resulting text responses within an interactive chat interface. The application utilizes a declarative user interface framework to build dynamic messaging layouts and manage conversation states. It employs a component-based architecture that separates UI logic from network communication, ensuring that messaging components remain modular and decoupled from

This project is a WhatsApp chatbot that integrates large language models and image generation into the WhatsApp messaging platform. It acts as a bridge connecting WhatsApp messages to OpenAI services to provide automated text and visual responses. The bot features the ability to convert spoken audio messages into written text using automated speech recognition, facilitating conversational interactions via voice. It also functions as a generative image bot, creating custom visual assets from text descriptions. The system is designed for containerized deployment, using Docker to package the ap

This is an OpenAI API Laravel client and LLM integration library designed to connect PHP applications to large language models. It enables the integration of AI capabilities for text generation, image processing, and data automation within a Laravel environment. The package includes an API mocking framework that allows developers to simulate network responses and verify application behavior without making live requests to OpenAI services. The integration is managed through service providers and configuration files, offering a facade-based static proxy and dependency injection for the API cli

FastDeploy is a high-performance deployment framework for large language models, vision models, and multimodal models. It provides the infrastructure to launch model services that process combined image, video, and text inputs, exposing these capabilities through a standardized, OpenAI-compatible API for chat and text completions. The project distinguishes itself through advanced inference pipeline engineering and GPU optimization. It employs speculative decoding, tensor parallelism, and a disaggregated execution model that separates prefill and decode phases across different hardware resourc

Chartbrew is a self-hosted business intelligence platform and data visualization engine designed to transform raw data from SQL databases and external API endpoints into interactive charts and dashboards. It serves as a tool for building analytics dashboards that monitor business metrics and KPIs through a privately hosted environment. The platform distinguishes itself with an embedded analytics workflow, allowing users to generate secure, time-limited shared links and iframes to display private charts on external websites. It also provides programmatic chart generation via API and integrates

openai-go is an LLM SDK for Go and a client for interacting with OpenAI services. It provides type-safe bindings to generate text, images, and audio via REST endpoints, enabling the integration of large language models and AI assistant orchestration into Go applications. The library serves as an agent orchestration tool for managing stateful conversation threads and autonomous agents with integrated tool calling and file search. It also functions as an asynchronous batch processing client for monitoring large-scale request groups and fine-tuning jobs, alongside a management SDK for controllin