Awesome GitHub RepositoriesThird-Party Model Integration

CoAI is an enterprise-grade, self-hostable AI gateway platform that unifies access to over 200 AI models from more than 35 providers through a single OpenAI-compatible API endpoint. It functions as a multi-tenant gateway, routing requests across providers with load balancing, automatic failover, and priority-based routing, while exposing standard OpenAI API endpoints for chat, image generation, model listing, and billing to enable seamless integration with existing tools and clients. The platform distinguishes itself through a comprehensive set of operational capabilities built around the gat

Vespa is a distributed search engine, vector database, and machine learning ranking engine. It serves as an AI search platform designed to handle large-scale document indexing and complex query processing across a cluster of nodes, combining keyword retrieval with high-dimensional embedding storage for semantic similarity search. The platform distinguishes itself by integrating machine learning models directly into the search pipeline to perform real-time inference and ranking. It converts these models into ranking expressions to score and order results based on relevance, while providing a s

OpenCompass is an open-source framework for standardized benchmarking of large language models. It provides a configurable evaluation pipeline that supports both objective and subjective assessment, using a dual-engine architecture to handle closed-form answer comparison and open-ended response rating. The framework is designed as a modular platform where datasets, models, and metrics are composed through declarative YAML configuration files. The framework distinguishes itself through its extensible model integration layer, which supports custom models, HuggingFace models, and third-party API

I've made everythign less reliant on torch.compile for VRAM efficiency, so things should work better even without it. Also figured workaround for some issues when using compile that made first run use drastically more VRAM, issue I battled with myself a lot.

GluonTS este un framework pentru prognoza probabilistică a seriilor temporale, conceput pentru a prezice valori viitoare ca distribuții de probabilitate cu intervale de încredere. Suportă atât antrenarea modelelor tradiționale, cât și prognoza zero-shot, unde modelele preantrenate generează predicții pentru serii noi fără antrenare suplimentară. Proiectul se distinge prin integrarea unei mari varietăți de abordări de prognoză într-un flux de lucru unificat. Aceasta include arhitecturi de deep learning precum rețelele neuronale recurente și convoluțiile cauzale, precum și integrarea modelelor statistice externe, a bibliotecii Prophet și a pachetelor R. Toolkit-ul oferă o suprafață cuprinzătoare pentru ingineria datelor de serii temporale, acoperind scalarea seturilor de date, divizarea și transformarea datelor temporale brute în tensori. Include, de asemenea, o suită de instrumente de evaluare pentru măsurarea acurateței prognozei și a intervalelor de incertitudine, precum și utilitare pentru persistența seturilor de date folosind formate precum Arrow și Parquet. Framework-ul suportă implementarea modelelor de prognoză în cadrul infrastructurii cloud.

Geekai is a multi-model AI platform and SaaS framework designed to deploy and manage AI agents and multimodal models through a unified interface. It serves as a multimodal AI gateway, providing centralized access to large language models and generative tools for text, image, audio, and video production. The project functions as an AI agent orchestrator, allowing for the definition of specialized personas and the import of external workflows and knowledge bases. It distinguishes itself by providing a complete commercial service layer, including credit-based billing, subscription management, an

Casibase is an open-source platform that orchestrates multi-turn conversations with large language models and manages retrieval-augmented knowledge bases from a single interface. It provides a unified system for connecting to over 30 AI model providers, ingesting documents into vector embeddings for semantic search, and running autonomous agent loops that can drive a browser, search the web, execute commands, and integrate with external tools. The platform distinguishes itself by combining AI conversation management with infrastructure and application orchestration capabilities. It includes a

FLAML este un framework de învățare automată automatizată, un instrument de optimizare a hiperparametrilor și un orchestrator de agenți pentru modele de limbaj mari. Oferă un sistem pentru selecția și reglarea modelelor pe diverse learner-e și seturi de date, oferind în același timp un toolkit pentru optimizarea parametrilor de inferență și reglarea fină a setărilor modelelor de limbaj mari. Proiectul dispune de un sistem de reglare meta-learning care analizează datele istorice ale sarcinilor pentru a genera configurații implicite dependente de date, accelerând convergența modelului. De asemenea, permite proiectarea sistemelor multi-agent colaborative prin fluxuri de lucru conversaționale și orchestrare bazată pe evenimente. Capabilitățile acoperă căutarea eficientă a hiperparametrilor pentru modele de învățare automată și funcții Python arbitrare, suportând spații de căutare ierarhice și optimizarea obiectivelor lexicografice. Framework-ul include, de asemenea, utilitare pentru selecția automată a modelelor, construcția de ansambluri stivuite, configurarea zero-shot și aplicarea constrângerilor de echitate. Sistemul suportă scalarea reglării distribuite și execuția concurentă a trial-urilor pe clustere de calcul pentru a reduce durata totală a căutării.

nofwl este un client desktop cross-platform pentru interacțiunea cu modele de limbaj mari. Servește drept interfață grafică de utilizator care se conectează la servicii externe de inteligență artificială folosind chei API personale. Aplicația oferă o experiență localizată cu suport pentru mai multe limbi de sistem și teme vizuale personalizabile, inclusiv scheme luminoase, întunecate și sincronizate cu sistemul. Rulează pe Windows, macOS și Linux. Clientul gestionează istoricul conversațiilor și configurarea utilizatorului prin stocarea datelor local-first, persistând mesajele de chat ca fișiere text structurate pe dispozitivul utilizatorului. Include, de asemenea, utilitare pentru copierea textului conversației și inspectarea datelor brute ale mesajelor.

This repository is a collection of node-based pipeline configurations, examples, and templates for generating AI media. It provides a workflow library and a curated gallery of blueprints designed for creating images, videos, and 3D assets using diffusion models. The project specifically offers a set of pre-configured node graphs for implementing advanced image generation and refinement techniques, with a focus on Stable Diffusion workflows. These examples demonstrate how to interconnect processing nodes to define complex generative logic without writing code. The available templates cover a

Map-anything is a 3D scene reconstruction framework and neural geometry estimator designed to transform two-dimensional images into metric three-dimensional spatial representations using feed-forward neural networks. It provides a specialized toolkit for predicting camera intrinsics and ray directions from single images without requiring external geometric metadata. The project includes a 3D model benchmarking suite that utilizes a unified model wrapper to standardize outputs from diverse reconstruction models. This allows for consistent evaluation and accuracy measurement across various spat

Acest proiect oferă un ghid și un framework complet pentru implementarea asistenților de codare AI autonomi în medii de dezvoltare locale. Se concentrează pe orchestrarea echipelor de agenți care pot planifica, executa și verifica sarcini complexe de inginerie software, cum ar fi refactorizarea, rezolvarea bug-urilor și generarea de teste, menținând în același timp o conștientizare profundă a contextului și memoriei specifice proiectului. Sistemul se distinge printr-o arhitectură robustă, axată pe securitate, care impune controale de acces granulare, izolarea execuției și aprobări obligatorii de tip human-in-the-loop pentru toate modificările de fișiere și apelurile către instrumente externe. Suportă automatizarea sofisticată a fluxului de lucru permițând dezvoltatorilor să definească abilități personalizate, reutilizabile și instrucțiuni ierarhice care persistă între sesiuni, asigurând un comportament consistent și retenția cunoștințelor pe tot parcursul ciclului de viață al dezvoltării software. Dincolo de automatizarea de bază, platforma oferă instrumente extinse de observabilitate și gestionare, inclusiv monitorizarea utilizării token-urilor în timp real, vizualizarea interactivă a diff-urilor de cod și monitorizarea sesiunilor în fundal. Se integrează direct în fluxurile de lucru bazate pe terminal și suportă diverși furnizori de inteligență artificială, permițând utilizatorilor să optimizeze performanța și costurile operaționale prin selecția modelului și ajustări ale raționamentului specifice sarcinii. Repository-ul servește atât ca resursă educațională pentru stăpânirea dezvoltării integrate cu AI, cât și ca toolkit funcțional pentru implementarea agenților autonomi care operează în limite de securitate definite.