Awesome GitHub RepositoriesThird-Party Model Integration

CoAI is an enterprise-grade, self-hostable AI gateway platform that unifies access to over 200 AI models from more than 35 providers through a single OpenAI-compatible API endpoint. It functions as a multi-tenant gateway, routing requests across providers with load balancing, automatic failover, and priority-based routing, while exposing standard OpenAI API endpoints for chat, image generation, model listing, and billing to enable seamless integration with existing tools and clients. The platform distinguishes itself through a comprehensive set of operational capabilities built around the gat

Vespa is a distributed search engine, vector database, and machine learning ranking engine. It serves as an AI search platform designed to handle large-scale document indexing and complex query processing across a cluster of nodes, combining keyword retrieval with high-dimensional embedding storage for semantic similarity search. The platform distinguishes itself by integrating machine learning models directly into the search pipeline to perform real-time inference and ranking. It converts these models into ranking expressions to score and order results based on relevance, while providing a s

OpenCompass is an open-source framework for standardized benchmarking of large language models. It provides a configurable evaluation pipeline that supports both objective and subjective assessment, using a dual-engine architecture to handle closed-form answer comparison and open-ended response rating. The framework is designed as a modular platform where datasets, models, and metrics are composed through declarative YAML configuration files. The framework distinguishes itself through its extensible model integration layer, which supports custom models, HuggingFace models, and third-party API

I've made everythign less reliant on torch.compile for VRAM efficiency, so things should work better even without it. Also figured workaround for some issues when using compile that made first run use drastically more VRAM, issue I battled with myself a lot.

GluonTS ist ein Framework für probabilistische Zeitreihenprognosen, das darauf ausgelegt ist, zukünftige Werte als Wahrscheinlichkeitsverteilungen mit Konfidenzintervallen vorherzusagen. Es unterstützt sowohl das traditionelle Modelltraining als auch Zero-Shot-Forecasting, bei dem vortrainierte Modelle Vorhersagen für neue Serien ohne zusätzliches Training generieren. Das Projekt zeichnet sich durch die Integration einer Vielzahl von Prognoseansätzen in einen einheitlichen Workflow aus. Dies umfasst Deep-Learning-Architekturen wie rekurrente neuronale Netze und kausale Konvolutionen sowie die Integration externer statistischer Modelle, der Prophet-Bibliothek und R-Paketen. Das Toolkit bietet eine umfassende Oberfläche für das Zeitreihen-Data-Engineering, die Datensatzskalierung, -aufteilung und die Transformation roher Zeitdaten in Tensoren abdeckt. Es enthält zudem eine Suite von Evaluierungstools zur Messung von Prognosegenauigkeit und Unsicherheitsintervallen sowie Hilfsmittel zur Datensatzpersistenz unter Verwendung von Formaten wie Arrow und Parquet. Das Framework unterstützt die Bereitstellung von Prognosemodellen innerhalb der Cloud-Infrastruktur.

Geekai is a multi-model AI platform and SaaS framework designed to deploy and manage AI agents and multimodal models through a unified interface. It serves as a multimodal AI gateway, providing centralized access to large language models and generative tools for text, image, audio, and video production. The project functions as an AI agent orchestrator, allowing for the definition of specialized personas and the import of external workflows and knowledge bases. It distinguishes itself by providing a complete commercial service layer, including credit-based billing, subscription management, an

Casibase is an open-source platform that orchestrates multi-turn conversations with large language models and manages retrieval-augmented knowledge bases from a single interface. It provides a unified system for connecting to over 30 AI model providers, ingesting documents into vector embeddings for semantic search, and running autonomous agent loops that can drive a browser, search the web, execute commands, and integrate with external tools. The platform distinguishes itself by combining AI conversation management with infrastructure and application orchestration capabilities. It includes a

FLAML ist ein automatisiertes Machine-Learning-Framework, ein Tool zur Hyperparameter-Optimierung und ein Orchestrator für Large-Language-Model-Agenten. Es bietet ein System zur Modellauswahl und -abstimmung über verschiedene Lerner und Datensätze hinweg und stellt gleichzeitig ein Toolkit zur Optimierung der Inferenzparameter und Fine-Tuning-Einstellungen von Large Language Models bereit. Das Projekt verfügt über ein Meta-Learning-Tuning-System, das historische Aufgabendaten analysiert, um datenabhängige Standardkonfigurationen zu generieren und die Modellkonvergenz zu beschleunigen. Es ermöglicht zudem das Design kollaborativer Multi-Agenten-Systeme durch konversationelle Workflows und ereignisgesteuerte Orchestrierung. Die Funktionen decken eine ressourceneffiziente Hyperparametersuche für Machine-Learning-Modelle und beliebige Python-Funktionen ab und unterstützen hierarchische Suchräume sowie lexikografische Zieloptimierung. Das Framework enthält zudem Dienstprogramme für automatisierte Modellauswahl, gestapelte Ensemble-Konstruktion, Zero-Shot-Konfiguration und die Durchsetzung von Fairness-Beschränkungen. Das System unterstützt die Skalierung verteilter Abstimmungen und die gleichzeitige Ausführung von Versuchen über Compute-Cluster hinweg, um die Gesamtsuchdauer zu reduzieren.

nofwl ist ein plattformübergreifender Desktop-Client für die Interaktion mit Large Language Models. Er dient als grafische Benutzeroberfläche, die sich über persönliche API-Schlüssel mit externen KI-Diensten verbindet. Die Anwendung bietet eine lokalisierte Erfahrung mit Unterstützung für mehrere Systemsprachen und anpassbare visuelle Themen, einschließlich heller, dunkler und system-synchronisierter Schemata. Sie läuft unter Windows, macOS und Linux. Der Client verwaltet den Konversationsverlauf und die Benutzerkonfiguration durch Local-First-Datenspeicherung und speichert Chat-Nachrichten als strukturierte Textdateien auf dem Gerät des Benutzers. Er enthält zudem Dienstprogramme zum Kopieren von Konversationstexten und zur Inspektion von Roh-Nachrichtendaten.

This repository is a collection of node-based pipeline configurations, examples, and templates for generating AI media. It provides a workflow library and a curated gallery of blueprints designed for creating images, videos, and 3D assets using diffusion models. The project specifically offers a set of pre-configured node graphs for implementing advanced image generation and refinement techniques, with a focus on Stable Diffusion workflows. These examples demonstrate how to interconnect processing nodes to define complex generative logic without writing code. The available templates cover a

Map-anything is a 3D scene reconstruction framework and neural geometry estimator designed to transform two-dimensional images into metric three-dimensional spatial representations using feed-forward neural networks. It provides a specialized toolkit for predicting camera intrinsics and ray directions from single images without requiring external geometric metadata. The project includes a 3D model benchmarking suite that utilizes a unified model wrapper to standardize outputs from diverse reconstruction models. This allows for consistent evaluation and accuracy measurement across various spat

This project provides a comprehensive guide and framework for implementing autonomous AI coding assistants within local development environments. It focuses on orchestrating multi-agent teams that can plan, execute, and verify complex software engineering tasks, such as refactoring, bug resolution, and test generation, while maintaining deep awareness of project-specific context and memory. The system distinguishes itself through a robust security-first architecture that enforces granular access controls, execution isolation, and mandatory human-in-the-loop approvals for all file modification