Awesome GitHub RepositoriesAPI Proxies

Este proyecto es un proxy y gateway de API REST para el bot de Discord de Midjourney. Funciona como un envoltorio (wrapper) que traduce llamadas de API estándar en mensajes de Discord, permitiendo la automatización de la generación de imágenes por IA sin interacción directa con la interfaz de Discord. El sistema incluye un balanceador de carga multi-cuenta que distribuye las tareas de generación entre un grupo de cuentas autenticadas para gestionar los límites de tasa y aumentar el rendimiento. También cuenta con un proxy de filtrado de contenido para limpiar palabras sensibles de los prompts y una capa de traducción que convierte texto no inglés a inglés mediante servicios externos. El gateway cubre una gama de operaciones de imagen, incluyendo generación, mezcla, descripción, escalado y refinamiento de visuales. El acceso se gestiona mediante autenticación con clave secreta, y el sistema proporciona seguimiento del progreso de las tareas para monitorear el estado de los trabajos de generación asíncronos.

RouteLLM es un framework de enrutamiento y gestor de tráfico diseñado para dirigir prompts entre modelos de lenguaje grandes de alta capacidad y bajo costo. Funciona como una puerta de enlace de API que imita la especificación de OpenAI para enrutar solicitudes a través de diferentes proveedores de modelos. El sistema optimiza los costos operativos dividiendo el tráfico entre niveles de modelos basados en tasas de éxito predichas y complejidad del prompt. Incluye una herramienta de calibración para analizar consultas de muestra y determinar la compensación óptima entre costo y calidad para la distribución del tráfico. El framework proporciona una herramienta para medir la precisión y la eficiencia de costos de las estrategias de enrutamiento utilizando conjuntos de datos de referencia. Admite extensibilidad a través de plugins basados en interfaces y lógica de enrutamiento personalizada.