1 repository
Utilities for starting, stopping, and listing active language model instances.
Distinct from Model Lifecycle Management: None of the candidates cover general administrative control of model runtimes; they focus on validation or embedded hardware.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Model Execution Controls. Refine with filters or upvote what's useful.
ollama-js este o bibliotecă client JavaScript și un wrapper API care oferă o interfață programatică pentru interacțiunea cu și gestionarea modelelor de limbaj mari (LLM). Permite execuția modelelor atât în medii locale, cât și în cloud, facilitând generarea de text conversațional și gestionarea ciclului de viață al modelelor. Proiectul se distinge prin oferirea de instrumente specializate pentru administrarea modelelor, inclusiv capacitatea de a descărca, crea și elimina modele, precum și capacitatea de a defini blueprint-uri de modele personalizate și template-uri de prompt-uri. Oferă, de asemenea, un client de vector embedding pentru generarea reprezentărilor numerice ale textului pentru a susține pipeline-urile de căutare semantică și regăsire. Biblioteca acoperă o gamă largă de capabilități, inclusiv analiza multimodală pentru procesarea imaginilor, capturarea urmelor de raționament intern și impunerea schemelor JSON structurate pentru extracția datelor. Mai mult, suportă interacțiunea avansată cu modelele prin invocarea de instrumente și streaming-ul răspunsurilor prin generatoare asincrone. Biblioteca este scrisă în TypeScript.
Provides programmatic control to start, stop, and list currently running model instances.