Awesome GitHub RepositoriesThird-Party Model Integration

CoAI is an enterprise-grade, self-hostable AI gateway platform that unifies access to over 200 AI models from more than 35 providers through a single OpenAI-compatible API endpoint. It functions as a multi-tenant gateway, routing requests across providers with load balancing, automatic failover, and priority-based routing, while exposing standard OpenAI API endpoints for chat, image generation, model listing, and billing to enable seamless integration with existing tools and clients. The platform distinguishes itself through a comprehensive set of operational capabilities built around the gat

Vespa is a distributed search engine, vector database, and machine learning ranking engine. It serves as an AI search platform designed to handle large-scale document indexing and complex query processing across a cluster of nodes, combining keyword retrieval with high-dimensional embedding storage for semantic similarity search. The platform distinguishes itself by integrating machine learning models directly into the search pipeline to perform real-time inference and ranking. It converts these models into ranking expressions to score and order results based on relevance, while providing a s

OpenCompass is an open-source framework for standardized benchmarking of large language models. It provides a configurable evaluation pipeline that supports both objective and subjective assessment, using a dual-engine architecture to handle closed-form answer comparison and open-ended response rating. The framework is designed as a modular platform where datasets, models, and metrics are composed through declarative YAML configuration files. The framework distinguishes itself through its extensible model integration layer, which supports custom models, HuggingFace models, and third-party API

I've made everythign less reliant on torch.compile for VRAM efficiency, so things should work better even without it. Also figured workaround for some issues when using compile that made first run use drastically more VRAM, issue I battled with myself a lot.

GluonTS es un framework para el pronóstico probabilístico de series temporales, diseñado para predecir valores futuros como distribuciones de probabilidad con intervalos de confianza. Soporta tanto el entrenamiento de modelos tradicionales como el pronóstico zero-shot, donde modelos preentrenados generan predicciones para nuevas series sin entrenamiento adicional. El proyecto se distingue por integrar una amplia variedad de enfoques de pronóstico en un flujo de trabajo unificado. Esto incluye arquitecturas de aprendizaje profundo como redes neuronales recurrentes y convoluciones causales, así como la integración de modelos estadísticos externos, la librería Prophet y paquetes de R. El kit de herramientas proporciona una superficie integral para la ingeniería de datos de series temporales, cubriendo el escalado de conjuntos de datos, la división y la transformación de datos temporales sin procesar en tensores. También incluye un conjunto de herramientas de evaluación para medir la precisión del pronóstico y los intervalos de incertidumbre, así como utilidades para la persistencia de conjuntos de datos utilizando formatos como Arrow y Parquet. El framework soporta el despliegue de modelos de pronóstico dentro de la infraestructura en la nube.

Geekai es una plataforma de IA multi-modelo y framework SaaS diseñado para desplegar y gestionar agentes de IA y modelos multimodales a través de una interfaz unificada. Sirve como puerta de enlace de IA multimodal, proporcionando acceso centralizado a modelos de lenguaje grandes y herramientas generativas para producción de texto, imagen, audio y video. El proyecto funciona como un orquestador de agentes de IA, permitiendo la definición de personas especializadas y la importación de flujos de trabajo externos y bases de conocimiento. Se distingue por proporcionar una capa de servicio comercial completa, incluyendo facturación basada en créditos, gestión de suscripciones y un ecosistema de creadores para monetizar aplicaciones de IA personalizadas. La plataforma cubre amplias áreas de capacidad, incluyendo generación de contenido de IA para presentaciones y video de transferencia de movimiento, administración de operaciones empresariales con control de acceso basado en roles y una abstracción de almacenamiento basada en controladores para gestionar activos a través de proveedores locales y en la nube. También incorpora análisis de negocios, limitación de tasa de API y migraciones automáticas de bases de datos. El sistema admite el despliegue de instancias privadas en servidores autogestionados con configuraciones HTTPS y SSL configurables.

Casibase is an open-source platform that orchestrates multi-turn conversations with large language models and manages retrieval-augmented knowledge bases from a single interface. It provides a unified system for connecting to over 30 AI model providers, ingesting documents into vector embeddings for semantic search, and running autonomous agent loops that can drive a browser, search the web, execute commands, and integrate with external tools. The platform distinguishes itself by combining AI conversation management with infrastructure and application orchestration capabilities. It includes a

FLAML is an automated machine learning framework, hyperparameter optimization tool, and large language model agent orchestrator. It provides a system for model selection and tuning across various learners and datasets, while also offering a toolkit for optimizing the inference parameters and fine-tuning settings of large language models. The project features a meta-learning tuning system that analyzes historical task data to generate data-dependent default configurations, accelerating model convergence. It further enables the design of collaborative multi-agent systems through conversational

nofwl es un cliente de escritorio multiplataforma para interactuar con modelos de lenguaje grandes. Sirve como una interfaz gráfica de usuario que se conecta a servicios de inteligencia artificial externos utilizando claves de API personales. La aplicación proporciona una experiencia localizada con soporte para múltiples idiomas del sistema y temas visuales personalizables, incluyendo esquemas claros, oscuros y sincronizados con el sistema. Funciona en Windows, macOS y Linux. El cliente gestiona el historial de conversaciones y la configuración del usuario a través de almacenamiento local, persistiendo los mensajes de chat como archivos de texto estructurados en el dispositivo del usuario. También incluye utilidades para copiar texto de conversación e inspeccionar datos de mensajes sin procesar.

This repository is a collection of node-based pipeline configurations, examples, and templates for generating AI media. It provides a workflow library and a curated gallery of blueprints designed for creating images, videos, and 3D assets using diffusion models. The project specifically offers a set of pre-configured node graphs for implementing advanced image generation and refinement techniques, with a focus on Stable Diffusion workflows. These examples demonstrate how to interconnect processing nodes to define complex generative logic without writing code. The available templates cover a

Map-anything is a 3D scene reconstruction framework and neural geometry estimator designed to transform two-dimensional images into metric three-dimensional spatial representations using feed-forward neural networks. It provides a specialized toolkit for predicting camera intrinsics and ray directions from single images without requiring external geometric metadata. The project includes a 3D model benchmarking suite that utilizes a unified model wrapper to standardize outputs from diverse reconstruction models. This allows for consistent evaluation and accuracy measurement across various spat

Este proyecto proporciona una guía y un framework integral para implementar asistentes de codificación de IA autónomos dentro de entornos de desarrollo locales. Se centra en orquestar equipos de agentes múltiples que pueden planificar, ejecutar y verificar tareas complejas de ingeniería de software, como refactorización, resolución de errores y generación de pruebas, mientras mantienen una conciencia profunda del contexto y la memoria específicos del proyecto. El sistema se distingue por una arquitectura robusta centrada en la seguridad que aplica controles de acceso granulares, aislamiento de ejecución y aprobaciones obligatorias con intervención humana para todas las modificaciones de archivos y llamadas a herramientas externas. Admite la automatización de flujos de trabajo sofisticados permitiendo a los desarrolladores definir habilidades personalizadas y reutilizables e instrucciones jerárquicas que persisten a través de las sesiones, asegurando un comportamiento consistente y la retención de conocimiento a lo largo del ciclo de vida del desarrollo de software. Más allá de la automatización central, la plataforma ofrece herramientas extensas de observabilidad y gestión, incluyendo seguimiento del uso de tokens en tiempo real, visualización interactiva de diferencias de código (diffs) y monitoreo de sesiones en segundo plano. Se integra directamente en flujos de trabajo basados en terminal y admite diversos proveedores de inteligencia artificial, permitiendo a los usuarios optimizar el rendimiento y los costos operativos a través de la selección de modelos y ajustes de razonamiento específicos de la tarea. El repositorio sirve tanto como recurso educativo para dominar el desarrollo integrado con IA como un kit de herramientas funcional para desplegar agentes autónomos que operan dentro de límites de seguridad definidos.