7 रिपॉजिटरी
Execution of non-blocking asynchronous functions within a worker process.
Distinct from Task Execution Engines: Specifically targets Python's asyncio coroutines rather than general high-performance task execution.
Explore 7 awesome GitHub repositories matching software engineering & architecture · Asyncio Coroutine Execution. Refine with filters or upvote what's useful.
rq is a distributed task queue and background worker system for Python that uses a Redis backend to decouple task submission from execution. It functions as a reliable message queue and task scheduler, allowing Python functions or asyncio coroutines to be processed asynchronously across multiple worker processes. The project distinguishes itself through reliable queuing mechanisms that prevent job loss during worker crashes using atomic operations. It provides specialized orchestration capabilities, including the prevention of duplicate jobs, job execution prioritization, and the ability to m
Supports the execution of non-blocking Python coroutines to handle high-volume I/O workloads.
ollama-python is a Python client for interacting with large language models. It provides an interface for sending prompts to receive text and chat completions, as well as a dedicated client for generating numerical vector embeddings from text. The project includes a wrapper that emulates the OpenAI API, allowing applications built for that standard to interact with local models. It also provides a non-blocking asynchronous client for executing concurrent requests. The library covers the full model lifecycle, including the ability to pull, create, list, and delete models within a local enviro
Uses Python's asyncio event loop to handle multiple network requests simultaneously without halting the program.
Robyn is a high-performance asynchronous web framework and server for Python that utilizes a Rust-powered runtime to execute code. It functions as an asynchronous Python web server designed to handle many concurrent requests efficiently through a multithreaded execution model. The project includes specialized capabilities for AI agent request routing, managing communication between agents and external tools. It also serves as a WebSocket communication server, maintaining persistent bidirectional channels for real-time data exchange. The framework covers a broad range of web infrastructure, i
Bridges the Rust runtime with Python's asyncio event loops for non-blocking request handling.
Hug is a type-driven Python web framework designed for building APIs. It uses Python type annotations to automatically validate and convert incoming request data and to format outgoing responses. The framework functions as an automated documentation tool by extracting function signatures and markers from source code to generate accessible API specifications. It also supports non-blocking coroutines for asynchronous API processing to handle background tasks without interrupting the main request cycle. The project provides capabilities for REST API development, including route mapping, endpoin
Utilizes non-blocking asyncio coroutines to handle background tasks without interrupting the main request cycle.
यह प्रोजेक्ट व्यावहारिक स्क्रिप्ट्स और संदर्भ गाइडों का एक संग्रह है जो उन्नत Python भाषा सुविधाओं और मुहावरों को प्रदर्शित करता है। यह समवर्तीता (concurrency), मेटाप्रोग्रामिंग, और डेटा संरचना डिज़ाइन जैसी अवधारणाओं में महारत हासिल करने के लिए कोड कार्यान्वयन प्रदान करता है। रिपॉजिटरी में Python ऑब्जेक्ट मॉडल के उदाहरण शामिल हैं, जो कस्टम एट्रिब्यूट एक्सेस, डिस्क्रिप्टर प्रोटोकॉल, और विशेष मेथड ओवरराइड्स को कवर करते हैं। इसमें ऑब्जेक्ट-ओरिएंटेड बॉयलरप्लेट को कम करने के लिए फर्स्ट-क्लास फ़ंक्शंस और डेकोरेटर्स का उपयोग करने वाले डिज़ाइन पैटर्न्स के कार्यान्वयन भी शामिल हैं। कोडबेस क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है, जिसमें इवेंट लूप्स और फ्यूचर्स के साथ एसिंक्रोनस प्रोग्रामिंग, कस्टम अनुक्रमों और जनरेटर का निर्माण, और इंटरफ़ेस प्रवर्तन के लिए एब्सट्रैक्ट बेस क्लासेस का उपयोग शामिल है। यह कॉन्टेक्स्ट मैनेजर्स के माध्यम से संसाधन प्रबंधन और टेक्स्ट व बाइट अनुक्रमों के प्रबंधन को भी प्रदर्शित करता है।
Implementations of non-blocking network requests and concurrent task management using event loops and futures.
geopy is a Python geocoding library and geolocation client used to convert human-readable addresses into geographic coordinates and resolve coordinates back into street addresses using various third-party web services. The library provides a consistent provider-based interface that abstracts multiple external geocoding services, allowing for interchangeable backends. It includes built-in request rate limiting and asynchronous client interfaces to manage API call frequency and execute concurrent lookups without halting execution. Beyond geocoding, the project includes geospatial utilities for
Implements non-blocking I/O operations using Python's asyncio coroutines for concurrent network requests.
LitServe एक Python AI अनुमान सर्वर फ्रेमवर्क और LLM सर्विंग फ्रेमवर्क है जिसे उच्च-कॉनकरेंसी अनुमान के लिए डिज़ाइन किया गया है। यह एक वितरित AI मॉडल सर्वर और डायनामिक बैचिंग अनुमान इंजन के रूप में कार्य करता है, जो AI मॉडल चलाने वाले कस्टम सर्वर बनाने और होस्ट करने के लिए टूल प्रदान करता है। यह फ्रेमवर्क एक डायनामिक-बैचिंग रिक्वेस्ट कतार के माध्यम से खुद को अलग करता है जो GPU थ्रूपुट को अधिकतम करने के लिए व्यक्तिगत अनुमान अनुरोधों को एकल टेंसर में समूहित करता है। यह वितरित GPU स्केलिंग का समर्थन करता है, जिससे मॉडल वर्कलोड को कंप्यूट लोड को संतुलित करने और कुल क्षमता बढ़ाने के लिए कई हार्डवेयर एक्सेलेरेटर्स में फैलाया जा सकता है। सिस्टम एक उच्च-स्तरीय रैपर इंटरफ़ेस प्रदान करता है जो मुख्य मॉडल निष्पादन लॉजिक से अनुरोध प्रीप्रोसेसिंग और पोस्टप्रोसेसिंग को अलग करता है। इसमें आउटपुट को क्रमिक रूप से डिलीवर करने के लिए रीयल-टाइम मॉडल स्ट्रीमिंग के लिए क्षमताएं भी शामिल हैं और समवर्ती नेटवर्क अनुरोधों को संभालने के लिए एक एसिंक्रोनस इवेंट लूप का उपयोग करता है।
Uses an asynchronous event loop to handle concurrent network requests without blocking execution.