Awesome GitHub RepositoriesInfrastructure Logic Customization

Este proyecto es una librería de referencia y colección de patrones de código de ejemplo para desplegar infraestructura en la nube utilizando el AWS CDK. Proporciona un conjunto de proyectos de muestra que demuestran cómo definir recursos de cómputo, almacenamiento y redes utilizando lenguajes de programación de propósito general. La librería incluye implementaciones de referencia para varios patrones arquitectónicos, incluyendo backends serverless con API GraphQL y WebSocket, orquestación de contenedores con balanceadores de carga y auto-scaling, y alojamiento de sitios web estáticos globales a través de redes de entrega de contenido (CDN). También proporciona diseños para topologías de red aisladas y automatización de flujos de trabajo basados en eventos utilizando máquinas de estado. Las capacidades cubiertas se extienden a la gestión de bases de datos relacionales, la configuración de servidores de transferencia de archivos seguros y la implementación de autorización de grano fino. Además, los ejemplos demuestran técnicas de personalización de infraestructura, como la anulación de propiedades de recursos y la integración de recursos personalizados.

Seldon Core es un servidor de modelos de machine learning basado en Kubernetes y un framework de inferencia MLOps. Funciona como un motor de servicio multimodelo y orquestador de pipelines, empaquetando modelos como microservicios escalables que se exponen a través de APIs REST y gRPC estandarizadas. El proyecto se distingue por sus pipelines de inferencia basados en grafos que encadenan modelos y transformadores de datos en flujos de trabajo secuenciales. Optimiza la utilización del hardware mediante el servicio compartido multimodelo y estrategias de sobreasignación dinámica de memoria, mientras admite la experimentación en producción mediante enrutamiento de tráfico ponderado, pruebas A/B y despliegues shadow. El framework cubre una amplia gama de capacidades MLOps, incluyendo escalado automático basado en la demanda, procesamiento asíncrono de solicitudes mediante buses de mensajes y monitoreo integral para la deriva de datos, valores atípicos y explicabilidad de predicciones. También proporciona gestión de infraestructura para la configuración del tiempo de ejecución del modelo y comunicación segura mediante cifrado TLS en los planos de control y datos.