1 repositorio
Awesome GitHub RepositoriesMemory-Based Augmentation
Enhancing model performance on specialized tasks using external memory modules without full retraining.
Distinct from Tool-Augmented Language Models: Focuses on augmentation via external memory weight stores rather than augmentation via active tools or plugins.
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Memory-Based Augmentation. Refine with filters or upvote what's useful.
Awesome Memory-Based Augmentation GitHub Repositories
Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
- deepseek-ai/engram
deepseek-ai/Engram
4,462Ver en GitHubEngram es un sistema dinámico de recuperación de conocimiento y framework de aumento de memoria para modelos de lenguaje grandes (LLM). Funciona como una capa de búsqueda de memoria escalable y un componente de arquitectura dispersa diseñado para fusionar el conocimiento estático del modelo con estados externos dinámicos para mejorar la veracidad y reducir las alucinaciones. El sistema utiliza recuperación de memoria condicional y direccionamiento de memoria diferenciable para mapear tokens de entrada a índices específicos dentro de un almacén de memoria asociativa a gran escala. Esto permite al modelo aumentar sus parámetros totales disponibles almacenando pesos en tablas de búsqueda externas y activando solo los segmentos de conocimiento relevantes para una entrada dada. El framework cubre la optimización de dispersión del modelo y el aumento escalable, utilizando recuperación clave-valor y fusión dinámica de parámetros para mejorar el rendimiento en tareas especializadas sin requerir un reentrenamiento completo de la red.
Enhances performance on specialized tasks using external memory modules without requiring full network retraining.
Python
