1 مستودع
Implementation of predictable business logic via code to control AI execution, security, and token costs.
Distinct from Programmatic Termination Logic: Distinct from AI-generated logic; this is developer-written code used to constrain and secure AI prompts
Explore 1 awesome GitHub repository matching software engineering & architecture · Programmatic Workflow Logic. Refine with filters or upvote what's useful.
LMQL هي لغة برمجة وواجهة احتمالية تمزج بين المنطق الخوارزمي وتوليد النصوص العشوائي. تعمل كإطار عمل للمطالبات الموجهة بالقيود (Constraint-guided) ومولد مخرجات مهيكل، مما يسمح للمستخدمين بإجبار استجابات النموذج على الالتزام بتنسيقات وأنواع بيانات صارمة. يتميز النظام كمحسن للاستدلال (Inference optimizer) يزيد من إنتاجية الرموز (Tokens) ويقلل من زمن الوصول. يتم تحقيق ذلك من خلال استراتيجيات تنفيذ متخصصة، بما في ذلك التخزين المؤقت للمطالبات القائم على الشجرة والمعالجة الجماعية غير المتزامنة. يغطي المشروع مجموعة واسعة من إمكانيات التحكم في التوليد، مثل إخفاء الرموز القائم على Logit، واختيار البحث الشعاعي (Beam-search)، وتنفيذ المنطق والمطالبة المتداخل. كما يوفر بنية تحتية لبث الاستجابة في الوقت الفعلي عبر WebSockets وأحداث الخادم (Server-sent events).
Combines developer-written programmatic flow with LLM queries to control the reasoning and structure of generated output.