7 repository-uri
Awesome GitHub RepositoriesAsyncio Coroutine Execution
Execution of non-blocking asynchronous functions within a worker process.
Distinct from Task Execution Engines: Specifically targets Python's asyncio coroutines rather than general high-performance task execution.
Explore 7 awesome GitHub repositories matching software engineering & architecture · Asyncio Coroutine Execution. Refine with filters or upvote what's useful.
Awesome Asyncio Coroutine Execution GitHub Repositories
Găsește cele mai bune repo-uri cu AI.Vom căuta cele mai potrivite repository-uri folosind AI.
- rq/rq
rq/rq
10,653Vezi pe GitHubrq is a distributed task queue and background worker system for Python that uses a Redis backend to decouple task submission from execution. It functions as a reliable message queue and task scheduler, allowing Python functions or asyncio coroutines to be processed asynchronously across multiple worker processes. The project distinguishes itself through reliable queuing mechanisms that prevent job loss during worker crashes using atomic operations. It provides specialized orchestration capabilities, including the prevention of duplicate jobs, job execution prioritization, and the ability to m
Supports the execution of non-blocking Python coroutines to handle high-volume I/O workloads.
Pythonasyncbackground-jobsdelayed-jobs - ollama/ollama-python
ollama/ollama-python
9,378Vezi pe GitHubollama-python is a Python client for interacting with large language models. It provides an interface for sending prompts to receive text and chat completions, as well as a dedicated client for generating numerical vector embeddings from text. The project includes a wrapper that emulates the OpenAI API, allowing applications built for that standard to interact with local models. It also provides a non-blocking asynchronous client for executing concurrent requests. The library covers the full model lifecycle, including the ability to pull, create, list, and delete models within a local enviro
Uses Python's asyncio event loop to handle multiple network requests simultaneously without halting the program.
Pythonollamapython - sparckles/robyn
sparckles/Robyn
7,265Vezi pe GitHubRobyn is a high-performance asynchronous web framework and server for Python that utilizes a Rust-powered runtime to execute code. It functions as an asynchronous Python web server designed to handle many concurrent requests efficiently through a multithreaded execution model. The project includes specialized capabilities for AI agent request routing, managing communication between agents and external tools. It also serves as a WebSocket communication server, maintaining persistent bidirectional channels for real-time data exchange. The framework covers a broad range of web infrastructure, i
Bridges the Rust runtime with Python's asyncio event loops for non-blocking request handling.
Pythonasyncbackendhacktoberfest - timothycrosley/hug
timothycrosley/hug
6,883Vezi pe GitHubHug is a type-driven Python web framework designed for building APIs. It uses Python type annotations to automatically validate and convert incoming request data and to format outgoing responses. The framework functions as an automated documentation tool by extracting function signatures and markers from source code to generate accessible API specifications. It also supports non-blocking coroutines for asynchronous API processing to handle background tasks without interrupting the main request cycle. The project provides capabilities for REST API development, including route mapping, endpoin
Utilizes non-blocking asyncio coroutines to handle background tasks without interrupting the main request cycle.
Python - fluentpython/example-code
fluentpython/example-code
5,569Vezi pe GitHubAcest proiect este o colecție de scripturi practice și ghiduri de referință care demonstrează funcționalități și idiomuri avansate ale limbajului Python. Oferă implementări de cod pentru stăpânirea conceptelor precum concurența, metaprogramarea și designul structurilor de date. Repository-ul include exemple ale modelului de obiecte Python, acoperind accesul personalizat la atribute, protocoalele descriptorilor și suprascrierile metodelor speciale. De asemenea, conține implementări ale pattern-urilor de design care utilizează funcții de primă clasă și decoratori pentru a reduce boilerplate-ul orientat pe obiecte. Codul sursă acoperă o gamă largă de capabilități, inclusiv programarea asincronă cu bucle de evenimente și futures, crearea de secvențe și generatoare personalizate și utilizarea claselor de bază abstracte pentru impunerea interfețelor. Demonstrează, de asemenea, gestionarea resurselor prin context managers și gestionarea secvențelor de text și octeți.
Implementations of non-blocking network requests and concurrent task management using event loops and futures.
Python - geopy/geopy
geopy/geopy
4,819Vezi pe GitHubgeopy is a Python geocoding library and geolocation client used to convert human-readable addresses into geographic coordinates and resolve coordinates back into street addresses using various third-party web services. The library provides a consistent provider-based interface that abstracts multiple external geocoding services, allowing for interchangeable backends. It includes built-in request rate limiting and asynchronous client interfaces to manage API call frequency and execute concurrent lookups without halting execution. Beyond geocoding, the project includes geospatial utilities for
Implements non-blocking I/O operations using Python's asyncio coroutines for concurrent network requests.
Pythongeocodergeocodingpython - lightning-ai/litserve
Lightning-AI/LitServe
3,894Vezi pe GitHubLitServe este un framework Python pentru servere de inferență AI și un framework de servire LLM conceput pentru inferență de înaltă concurență. Funcționează ca un server de model AI distribuit și un motor de inferență cu batching dinamic, oferind instrumentele necesare pentru a construi și găzdui servere personalizate care rulează modele AI. Framework-ul se distinge printr-o coadă de cereri cu batching dinamic care grupează cererile individuale de inferență în tensori unici pentru a maximiza throughput-ul GPU. Suportă scalarea GPU distribuită, permițând sarcinilor de lucru ale modelelor să fie distribuite pe mai multe acceleratoare hardware pentru a echilibra sarcinile de calcul și a crește capacitatea totală. Sistemul oferă o interfață wrapper de nivel înalt care decuplează preprocesarea și postprocesarea cererilor de logica de bază de execuție a modelului. Include, de asemenea, capabilități pentru streaming-ul modelelor în timp real pentru a livra output-uri incremental și utilizează o buclă de evenimente asincronă pentru a gestiona cererile de rețea concurente.
Uses an asynchronous event loop to handle concurrent network requests without blocking execution.
Python
