17 Repos
Real-time updating of UI elements as data chunks arrive from external sources.
Distinct from Streaming Rendering: Focuses on incremental parsing and rendering of text content like markdown and code, rather than HTML streaming for web clients.
Explore 17 awesome GitHub repositories matching web development · Incremental Content Streaming. Refine with filters or upvote what's useful.
llm-universe is a structured learning resource and technical guide focused on the development of large language model applications. It serves as a curriculum for mastering model orchestration, the creation of autonomous conversational agents, and the implementation of retrieval-augmented generation systems. The project provides detailed instructions on connecting model APIs with memory and tools to create execution chains. It specifically covers the construction of retrieval pipelines, including the process of cleaning raw documents, generating embeddings, and integrating vector databases to
Explains how to deliver generated text in small chunks to reduce perceived latency for a more responsive user experience.
Opentui is a terminal user interface framework for building interactive command line applications. It provides a component-based system featuring a flexbox layout engine, a virtual node component tree, and a low-level 2D cell array renderer. The project is distinguished by a sophisticated keyboard binding engine that maps complex multi-stroke sequences and chords to named commands using prioritized, reactive layers. It also implements a plugin architecture that allows external modules to inject custom UI components into designated layout slots and extend input logic at runtime. Its capabilit
Supports real-time syntax highlighting and markdown parsing as content chunks stream in from external sources.
FAST is a web components framework and declarative UI library used to build adaptive user interfaces. It functions as a server-side rendering engine and design system implementation, enabling the creation of modular components based on web standards. The framework focuses on cross-framework component compatibility, allowing user interface elements to remain functional across different front-end frameworks and modern browsers. It implements a design language through a collection of pre-defined visual components to ensure consistency across professional applications. The system covers state-dr
Sends data to the client in small chunks to allow users to see updates before the full response finishes.
Mesop is a stateful, declarative Python web UI framework and component library designed for building interactive web applications and AI demos. It allows for the construction of data-driven interfaces and chat systems using only Python, removing the need to write separate HTML or CSS. The framework is specifically tailored for AI application development, offering dedicated tools for conversational UI design and the creation of dashboards for large language model applications. It distinguishes itself with a visual UI editor for real-time property adjustments and the ability to embed custom Jav
Uses Python generators to push incremental UI updates to the browser as data is produced.
next-learn ist eine Sammlung von Bildungsressourcen und Referenzimplementierungen für den Aufbau von Full-Stack-Webanwendungen. Sie dient als Lernressource und Tutorial für das Next.js-Framework und bietet Starter-Code sowie Beispielprojekte, die Server-Side-Rendering und das React-basierte Ökosystem demonstrieren. Das Projekt bietet ein Full-Stack-Web-Template, das eine vollständige Implementierung von Datenbankintegration, Nutzerauthentifizierung und serverseitiger Logik zeigt. Es enthält Referenzbeispiele für die Optimierung der Web-Performance, insbesondere die Demonstration der Verwendung von Server Components, Server Actions und dynamischem Routing. Die Codebasis deckt ein breites Spektrum an Full-Stack-Funktionen ab, einschließlich Datenmanagement durch serverseitige Abfragen und Mutationen, identitätsbasierter Zugriffskontrolle mittels Route-Guards und Navigationsarchitektur unter Verwendung von Dateisystem-Routing. Sie implementiert zudem verschiedene Rendering-Strategien, Asset-Optimierung für Bilder und Schriftarten sowie UI-Styling.
Delivers page content in chunks using fallback UI to prevent data requests from blocking initial renders.
Dieses Projekt ist ein Framework für Konversationsschnittstellen und eine UI-Komponentenbibliothek, die für den Aufbau von Anwendungen mit Integration von Large Language Models entwickelt wurde. Es bietet eine standardisierte Provider-Integrationsschicht, um Frontend-Komponenten mit verschiedenen KI-Backends zu verbinden, sowie eine dedizierte Response-Rendering-Engine zur Anzeige generierter Inhalte. Das Framework ist auf hybride generative UI-Komposition spezialisiert und verbindet traditionelle interaktive Elemente mit dynamischen Modellausgaben. Es verfügt über ein protokollgesteuertes System zur Konvertierung strukturierter Datenströme in interaktive Karten und enthält Werkzeuge zur Visualisierung der internen Reasoning-Prozesse und Gedankengänge eines Modells. Die Bibliothek deckt eine breite Palette an Funktionen ab, einschließlich inkrementellem Markdown-Rendering, Konversations-Lebenszyklusmanagement und Persona-Konfiguration. Sie bietet zudem spezialisierte Komponenten für Prompting, die Erfassung von Nutzerfeedback und die Verwaltung von Chat-Sitzungszuständen. Ein Befehlszeilen-Dienstprogramm ist für das Projekt-Scaffolding verfügbar, um die Generierung initialer Projektstrukturen und Boilerplate-Code zu automatisieren.
Processes incremental data chunks from AI providers to update the UI in real-time.
Harmony ist ein KI-SDK, das für das Tokenisieren von Konversationen, das Formatieren von Reasoning-Layouts, das Parsen von Rohausgaben und das Definieren von Tool-Call-Schemata entwickelt wurde. Es bietet ein System zur Konvertierung strukturierter Dialoge und Tool-Calls in die Token-Sequenzen, die für die Inferenz und das Training von Large Language Models erforderlich sind. Das Projekt enthält einen Output-Formatter, der Reasoning-Ketten und Multi-Channel-Ausgaben in konsistente Layouts strukturiert, um Token-Verlust zu vermeiden. Es bietet zudem einen Response-Parser, der rohe Completion-Token und Live-Streams zurück in strukturierte Nachrichtenobjekte und Rollen transformiert. Das SDK verwaltet die Tool-Integration durch ein Framework zur Definition aufrufbarer Funktionen und Namespaces. Es bietet zudem Funktionen für Echtzeit-Token-Parsing, Konfiguration des Modellverhaltens und zustandsbehaftete Konversations-Serialisierung.
Processes incoming tokens one by one to identify roles and content in real-time from a live stream.
Streamdown is a streaming markdown renderer for React that transforms incoming markdown text into sanitized HTML in real time, handling incomplete blocks as they arrive. It parses GitHub-Flavored Markdown syntax including tables, task lists, and footnotes, and renders LaTeX math expressions using KaTeX, Mermaid diagrams as interactive SVGs, and code blocks with Shiki-based syntax highlighting supporting over 200 languages with dual light and dark themes. The renderer includes an XSS-safe HTML sanitizer that strips dangerous tags and validates URLs to prevent injection attacks. What distinguis
Imports animation CSS to enable the built-in animated prop for streaming markdown rendering.
Infographic is a declarative SVG infographic engine and AI-powered generator that transforms structured specifications and natural language descriptions into complete visual layouts. At its core, it provides a data storytelling framework that combines AI-driven layout generation with multi-pattern composition, supporting linear, circular, radial, tree, and mirror arrangements for sequential, hierarchical, and comparative data structures. The project distinguishes itself through a canvas-based interactive editor with real-time element manipulation and state history management, alongside a serv
Provides real-time incremental rendering of infographics as AI-generated syntax fragments arrive.
vue-meta ist ein Metadaten-Manager für Vue.js-Anwendungen, der die Injektion, Deduplizierung und Zusammenführung von HTML-Head- und Body-Tags koordiniert. Er dient als Dokument-Head-Controller, der es Entwicklern ermöglicht, Titel, Meta-Tags, Link-Tags, Styles und Skripte innerhalb einer Komponentenarchitektur sowohl in clientseitigen als auch in serverseitigen Umgebungen zu definieren und zu aktualisieren. Die Bibliothek zeichnet sich durch ein hierarchisches Zusammenführungssystem aus, bei dem untergeordnete Komponenten Metadaten überschreiben können, die von übergeordneten Komponenten definiert wurden. Sie stellt die Dokumentintegrität durch identifier-basierte Deduplizierung sicher, um doppelte Tags zu verhindern, und nutzt ein Koordinationssystem, um Metadaten von mehreren unabhängigen Anwendungsinstanzen auf einer einzigen Seite zu verwalten. Zu den umfassenderen Funktionen gehören Suchmaschinenoptimierung durch serverseitige Metadaten-Injektion, das Einfügen bereinigter strukturierter JSON-Daten und dynamische Metadaten-Bindung, die Werte basierend auf dem Komponentenstatus auflöst. Die Performance wird durch Request-Animation-Frame-Batching adressiert, um Flackern zu verhindern, sowie durch inkrementelles Response-Streaming für serverseitiges Rendering. Das Projekt bietet Dienstprogramme für die statische Metadatengenerierung, um HTML-Template-Strings zu erzeugen, ohne eine Live-Komponenteninstanz zu benötigen.
Sends metadata to the browser incrementally during server-side rendering so the page head renders before the full body arrives.
react-server is a server-side rendering framework for building universal web applications. It serves as a hydration engine and HTML renderer that executes component logic on both the server and the client to synchronize application state. The project focuses on streaming content delivery, allowing page content to be sent to the browser in fragments as they become available. This approach is combined with server-side HTML generation to improve initial load speeds and search engine indexing. The framework also includes capabilities for automated asset bundling and universal component execution
Sends HTML fragments to the browser incrementally so users see content before the full response finishes.
This project is an AI API gateway and proxy that translates and normalizes requests between different AI model formats to ensure compatibility across client applications. It functions as a middleware service that can transform local command-line binaries into web services, allowing them to be triggered via HTTP requests. The system is distinguished by its ability to route multimodal text and image inputs and extract internal reasoning chains from model outputs to separate the chain of thought from the final answer. It includes an authentication manager that automatically cycles through multip
Sends model responses incrementally using a chunked transfer mechanism for real-time UI updates.
Nearley is a JavaScript parser toolkit used to define context-free grammars and generate corresponding parsers. It features an EBNF grammar compiler that transforms language definitions written in extended Backus-Naur Form into executable JavaScript code, utilizing an Earley parser implementation to process any context-free grammar. The toolkit distinguishes itself by its ability to handle left-recursion and ambiguity without failing, allowing it to identify and return multiple valid derivations for a single input string. It also includes a grammar fuzzing generator to produce random strings
Parses input streams in real time to provide immediate feedback or predictive results in a UI.
Nearley is a JavaScript parser toolkit and context-free grammar compiler. It functions as an Earley parser generator that transforms BNF-like grammar definitions into executable code capable of analyzing text and generating abstract syntax trees. The project is distinguished by its ability to handle any context-free grammar, including those with left recursion and ambiguity, by maintaining multiple valid derivations for a single input. It further supports incremental parsing, allowing input strings to be processed in chunks to provide partial results and real-time feedback. Beyond core parsi
Processes text streams in small chunks to provide immediate structural feedback for user interfaces.
MadelineProto is an asynchronous PHP library that provides a programmatic interface for interacting with the Telegram API using the MTProto protocol, the same protocol used by official Telegram clients. It functions as both a Telegram bot SDK and a userbot automation library, enabling PHP applications to connect to Telegram as either a bot account or a regular user account, sending and receiving messages, media, and other data directly without relying on the Bot API intermediary. The library is built on an event-driven architecture with Amp v3 fiber-based concurrency, allowing for non-blockin
Streams photo contents as byte streams for Telegram incremental processing.
Dieses Projekt bietet ein plattformübergreifendes Messaging-Schnittstellen-Toolkit, das für den Aufbau von Echtzeit-Chat-Anwendungen und generativen KI-Agenten entwickelt wurde. Es bietet eine Sammlung vorgefertigter Komponenten, die konsistente Messaging-Erlebnisse über mobile und Web-Umgebungen hinweg rendern und die Komplexität der Zustandsverwaltung und Datensynchronisation zwischen der Benutzeroberfläche und Backend-Diensten handhaben. Die Bibliothek zeichnet sich durch eine hochmodulare Architektur aus, die es Entwicklern ermöglicht, benutzerdefinierte Logik und UI-Overrides über Builder-Funktionen zu injizieren. Dieser Ansatz ermöglicht die Erstellung maßgeschneiderter Messaging-Layouts und Themen, während gleichzeitig die Unterstützung für fortgeschrittene Funktionen wie inkrementelles Stream-Rendering für KI-Antworten, Markdown-Parsing und persistentes lokales Ressourcen-Caching zur Optimierung der Leistung und des Offline-Zugriffs beibehalten wird. Die Schnittstelle unterstützt eine breite Palette von Inhaltstypen, einschließlich Text, Bildern, Dateianhängen und Systemstatusaktualisierungen. Sie verwaltet diese Elemente durch standardisierte Datenmodellierung und zentralisierte Controller und stellt sicher, dass die visuelle Darstellung mit dem zugrunde liegenden Nachrichtenstatus synchron bleibt. Das System enthält zudem Tools für die Verwaltung von Inhalts-Overlays und die granulare Kontrolle über den Lebenszyklus zwischengespeicherter Medien-Assets.
Processes and displays text content in chunks to simulate real-time typing effects for generative AI interactions.
The YAML Language Server is a backend service that provides intelligent editing support for YAML files by implementing the Language Server Protocol. It functions as a validation and analysis engine, enabling code editors to offer real-time diagnostics, structural feedback, and automated assistance for configuration-heavy development workflows. The project distinguishes itself through its schema-driven approach to data integrity, utilizing a JSON Schema validation engine to verify document structure against formal definitions. It supports complex configuration management by allowing developers
Processes only modified sections of a file to provide immediate feedback without re-parsing the entire document on every keystroke.