Awesome GitHub RepositoriesAutomatic Tool Executions

Spring AI is an application framework for Java that provides a portable, fluent API for integrating AI models, tools, and vector stores into applications. It wraps multiple AI providers behind a common interface, allowing developers to switch between chat, embedding, image, and speech models without changing application code. The framework includes a chainable chat client API similar to WebClient or RestClient, supports both synchronous and streaming interactions, and offers structured output conversion that transforms unstructured AI responses into strongly-typed Java objects. The framework

LiteRT-LM es un framework de inferencia de alto rendimiento diseñado para ejecutar modelos de lenguaje de gran tamaño localmente en hardware móvil, de escritorio y IoT. Sirve como un runtime de modelos en el dispositivo que utiliza aceleración de CPU, GPU y NPU para proporcionar un procesamiento de baja latencia. El framework se distingue por su capacidad para procesar entradas de texto, visión y audio a través de un único motor de inferencia multimodal. Cuenta con un servidor HTTP local que emula endpoints de API compatibles con OpenAI y un runtime basado en WebGPU para ejecutar modelos directamente dentro de un navegador web. Para garantizar la fiabilidad de la salida, incluye un generador de texto restringido que impone esquemas JSON o reglas gramaticales en las respuestas del modelo. El proyecto proporciona amplias capacidades para la gestión de conversaciones con estado, decodificación especulativa para aumentar las velocidades de generación de tokens y una interfaz de llamada a herramientas que mapea las solicitudes del modelo a funciones externas. También incluye integración especializada para el ecosistema Apple y un plugin dedicado para ejecutar modelos en Flutter. Los usuarios pueden ejecutar modelos a través de una interfaz de línea de comandos o integrarlos en aplicaciones mediante API nativas.

This project is a Python software development kit and framework for building applications that integrate with large language models. It serves as a multimodal content generator and vector embedding library, enabling the production and editing of text, images, audio, and video. The toolkit provides specialized capabilities for adapting base models through supervised and reinforcement training. It further distinguishes itself by offering tools for orchestrating complex workflows, including stateful chat sessions, the enforcement of structured output via schemas, and the integration of external