Awesome GitHub RepositoriesAPI Proxies

Ce projet est un proxy et une passerelle d'API REST pour le bot Discord Midjourney. Il fonctionne comme un wrapper qui traduit les appels d'API standard en messages Discord, permettant l'automatisation de la génération d'images par IA sans interaction directe avec l'interface Discord. Le système inclut un équilibreur de charge multi-comptes qui distribue les tâches de génération sur un pool de comptes authentifiés pour gérer les limites de débit et augmenter le débit. Il dispose également d'un proxy de filtrage de contenu pour nettoyer les mots sensibles des prompts et une couche de traduction qui convertit le texte non anglais en anglais via des services externes. La passerelle couvre une gamme d'opérations d'image, notamment la génération, le mélange, la description, l'upscaling et l'affinement des visuels. L'accès est géré via une authentification par clé secrète, et le système fournit un suivi de la progression des tâches pour surveiller le statut des travaux de génération asynchrones.

RouteLLM est un framework de routage et un gestionnaire de trafic conçu pour diriger les prompts entre des modèles de langage étendus à haute capacité et à faible coût. Il fonctionne comme une passerelle API qui imite la spécification OpenAI pour router les requêtes à travers différents fournisseurs de modèles. Le système optimise les coûts opérationnels en répartissant le trafic entre les niveaux de modèles en fonction des taux de réussite prédits et de la complexité des prompts. Il inclut un outil de calibration pour analyser les requêtes d'échantillon et déterminer le compromis coût-qualité optimal pour la distribution du trafic. Le framework fournit un outil pour mesurer la précision et l'efficacité des coûts des stratégies de routage en utilisant des jeux de données de référence. Il prend en charge l'extensibilité via des plugins basés sur des interfaces et une logique de routage personnalisée.