6 repository-uri
Architectural pattern for routing API requests from the browser directly to external service providers.
Distinct from Client-side Routing: Distinct from UI routing; focuses on the data plane for API requests to bypass server bottlenecks.
Explore 6 awesome GitHub repositories matching web development · Client-Side Provider Routing. Refine with filters or upvote what's useful.
G0DM0D3 is a static web client and multi-model chat gateway designed for AI research, prompt optimization, and red teaming. It provides a unified interface to query numerous AI models in parallel, allowing for the simultaneous evaluation of different prompt variations and sampling parameters to identify the most successful outputs. The project features specialized tooling for probing safety filters and bypassing model constraints through an input perturbation engine that applies text obfuscation and character substitution. It includes a composite scoring system to rank model performance and a
Routes API requests directly from the browser to model providers using user-supplied keys.
big-AGI is a self-hosted AI frontend and multi-model client that provides a unified workspace for interacting with various large language models. It functions as an orchestration dashboard, allowing users to connect to cloud-based AI providers, aggregator services, and locally hosted model servers. The project is distinguished by its ability to execute prompts across multiple models simultaneously for side-by-side comparison and response synthesis. It enables the merging of outputs from different models to reduce hallucinations and improve accuracy, while using persona-based configuration map
Implements direct browser-to-provider routing to improve performance and privacy by bypassing the backend.
Acest proiect este o interfață web self-hosted, concepută pentru interacțiunea cu modele de limbaj mari (LLM). Oferă un dashboard centralizat care permite utilizatorilor să gestioneze comunicarea cu modelele, să mențină istoricul conversațiilor și să organizeze biblioteci de prompt-uri într-un mediu privat, containerizat. Platforma se distinge prin controale administrative și de securitate robuste, incluzând suport pentru furnizori de identitate enterprise, acces pe bază de parolă și limitarea ratei cererilor. Facilitează conectivitatea flexibilă permițând utilizatorilor să configureze proxy-uri de rețea personalizate, să gestioneze mai multe chei API și să ajusteze setările de raționament și fereastra de context a modelului pentru a se potrivi cerințelor operaționale specifice. Aplicația suportă o suită completă de funcționalități pentru gestionarea interacțiunilor AI, cum ar fi răspunsurile în timp real prin streaming, randarea conținutului bogat pentru cod și notații matematice, și sincronizarea sesiunilor de chat între dispozitive. Include, de asemenea, instrumente pentru filtrarea conținutului și personalizarea prompt-urilor per sesiune pentru a asigura rezultate consistente și sigure. Software-ul este conceput pentru deployment containerizat, asigurând o execuție consistentă în diverse medii de infrastructură. Poate fi instalat ca Progressive Web App (PWA) pentru a oferi o experiență nativă atât pe dispozitive mobile, cât și pe desktop.
Routes requests through a backend server to mask API keys and bypass cross-origin restrictions.
ChatGpt-Web este o aplicație bazată pe web concepută pentru a oferi o interfață responsivă pentru interacțiunea cu modelele de limbaj mari. Aceasta funcționează ca un dashboard centralizat care permite utilizatorilor să schimbe prompt-uri text cu servicii AI generative, gestionând în același timp istoricul conversațiilor și resursele sistemului printr-o arhitectură modulară, bazată pe componente. Platforma se distinge prin încorporarea unui strat proxy backend care direcționează cererile clientului către furnizori externi de inteligență artificială. Această infrastructură permite mascarea cheilor API sensibile și redirecționarea traficului de rețea către endpoint-uri de servicii personalizate, asigurând o conectivitate sigură și controlată la modelele generative. Aplicația include instrumente pentru gestionarea fluxurilor de lucru de prompt engineering prin utilizarea unor șabloane predefinite, care ajută la standardizarea interacțiunilor pentru sarcinile comune. De asemenea, suportă continuitatea sesiunii și portabilitatea datelor prin utilizarea stocării locale a browserului pentru log-urile conversațiilor și oferind funcționalitatea de a exporta istoricul chat-ului pentru revizuire offline.
Proxies client requests through a backend layer to mask API keys and manage traffic to external generative model providers.
Acest proiect este un framework de dezvoltare full-stack conceput pentru construirea de aplicații mobile cross-platform care integrează modele generative de limbaj și imagine. Oferă un boilerplate preconfigurat și o colecție de instrumente pentru a accelera crearea de software inteligent, inclusiv suport pentru interfețe de chat interactive și generarea de conținut vizual. Framework-ul se distinge prin încorporarea unui strat proxy server-side care centralizează autentificarea și autorizarea, asigurând comunicarea securizată atunci când se interacționează cu servicii AI externe. De asemenea, dispune de un sistem de stilizare modular care menține teme vizuale consistente pe diferite sisteme de operare mobile, alături de o arhitectură de streaming care livrează răspunsurile modelului incremental pentru interacțiunea în timp real cu utilizatorul. Mediul de dezvoltare include scaffolding bazat pe template-uri pentru a inițializa proiecte cu conexiuni de servicii pre-integrate. Această configurație permite schimbarea flexibilă a modelelor și gestionarea standardizată a interfeței în întregul stack al aplicației.
Routes requests through a backend proxy layer to centralize authentication and secure communication with external AI services.
Acest repository servește drept colecție completă de implementări de referință pentru framework-ul web Remix. Oferă exemple practice de dezvoltare web full-stack, demonstrând cum să construiești aplicații dinamice, rerate pe server, care fac legătura între logica server-side și interactivitatea client-side. Prin utilizarea unei arhitecturi bazate pe componente, aceste exemple ilustrează tipare fundamentale pentru gestionarea datelor, rutare și interfețe utilizator într-un mediu de dezvoltare unificat. Colecția evidențiază abordarea distinctivă a framework-ului față de arhitectura web, punând accent pe încărcarea datelor pe server și ierarhiile de rute imbricate care oglindesc structurile URL. Aceste exemple arată cum să gestionezi cererile care schimbă starea prin acțiuni dedicate pe server și să asiguri funcționalitatea aplicației prin îmbunătățire progresivă (progressive enhancement), permițând funcțiilor să rămână operaționale chiar înainte ca scripturile client-side să fie complet încărcate. Dincolo de tiparele fundamentale, repository-ul acoperă un spectru larg de capabilități de integrare, inclusiv autentificare securizată și gestionarea sesiunilor, sincronizarea datelor în timp real și conectivitatea cu API-uri externe. De asemenea, oferă îndrumări privind fluxurile de lucru pregătite pentru producție, cum ar fi procesarea sarcinilor în fundal, gestionarea securizată a plăților și tehnici de optimizare a performanței, precum batching-ul cererilor către baza de date și amânarea încărcării resurselor (asset deferral). Aceste exemple sunt menținute ca un set de proiecte modulare, oferind dezvoltatorilor o privire directă asupra modului de structurare a aplicațiilor, impunerea calității codului și automatizarea pipeline-urilor de deployment. Fiecare implementare servește drept șablon funcțional pentru sarcini comune de dezvoltare web, variind de la gestionarea conținutului și a formularelor până la interacțiuni UI complexe.
Creates server-side endpoints that proxy requests to external services or internal sources to provide structured data.