Awesome GitHub RepositoriesModel Execution Controls

ollama-js este o bibliotecă client JavaScript și un wrapper API care oferă o interfață programatică pentru interacțiunea cu și gestionarea modelelor de limbaj mari (LLM). Permite execuția modelelor atât în medii locale, cât și în cloud, facilitând generarea de text conversațional și gestionarea ciclului de viață al modelelor. Proiectul se distinge prin oferirea de instrumente specializate pentru administrarea modelelor, inclusiv capacitatea de a descărca, crea și elimina modele, precum și capacitatea de a defini blueprint-uri de modele personalizate și template-uri de prompt-uri. Oferă, de asemenea, un client de vector embedding pentru generarea reprezentărilor numerice ale textului pentru a susține pipeline-urile de căutare semantică și regăsire. Biblioteca acoperă o gamă largă de capabilități, inclusiv analiza multimodală pentru procesarea imaginilor, capturarea urmelor de raționament intern și impunerea schemelor JSON structurate pentru extracția datelor. Mai mult, suportă interacțiunea avansată cu modelele prin invocarea de instrumente și streaming-ul răspunsurilor prin generatoare asincrone. Biblioteca este scrisă în TypeScript.