1 Repo
Formal data structures for organizing messages between users and assistants for consistent model interaction.
Distinct from Conversation Structure Validation: Focuses on the organization and structure of the dialogue messages, not just the validation of the format.
Explore 1 awesome GitHub repository matching data & databases · Conversational Data Structures. Refine with filters or upvote what's useful.
Harmony ist ein KI-SDK, das für das Tokenisieren von Konversationen, das Formatieren von Reasoning-Layouts, das Parsen von Rohausgaben und das Definieren von Tool-Call-Schemata entwickelt wurde. Es bietet ein System zur Konvertierung strukturierter Dialoge und Tool-Calls in die Token-Sequenzen, die für die Inferenz und das Training von Large Language Models erforderlich sind. Das Projekt enthält einen Output-Formatter, der Reasoning-Ketten und Multi-Channel-Ausgaben in konsistente Layouts strukturiert, um Token-Verlust zu vermeiden. Es bietet zudem einen Response-Parser, der rohe Completion-Token und Live-Streams zurück in strukturierte Nachrichtenobjekte und Rollen transformiert. Das SDK verwaltet die Tool-Integration durch ein Framework zur Definition aufrufbarer Funktionen und Namespaces. Es bietet zudem Funktionen für Echtzeit-Token-Parsing, Konfiguration des Modellverhaltens und zustandsbehaftete Konversations-Serialisierung.
Organizes messages between users and assistants into formal data structures to facilitate consistent interaction with a model.