1 Repo
Methods for examining the performance and scaling of RAG and agentic systems.
Distinct from LLM Performance Analyzers: Analyzes the system-level application of agents and retrieval rather than pinpointing execution bottlenecks in a specific codebase.
Explore 1 awesome GitHub repository matching software engineering & architecture · Application Analysis. Refine with filters or upvote what's useful.
Dieses Projekt ist ein umfassender technischer Studienleitfaden und eine Referenz zum Erlernen der Architekturen und Trainingsmethoden von Transformern und großen Sprachmodellen. Es dient als technischer Überblick, um zu verstehen, wie neuronale Netze Daten verarbeiten und wie das Modellverhalten an spezifische Leistungsziele angepasst werden kann. Das Repository bietet spezialisierte Leitfäden zu mehreren Schlüsselbereichen der Modellentwicklung. Dies umfasst detaillierte Referenzen für Transformer-Architekturen, Implementierungs-Frameworks für Retrieval-Augmented Generation und agentische Workflows sowie technische Leitfäden für Modelloptimierung und Fine-Tuning. Der Inhalt deckt ein breites Spektrum an Fähigkeiten ab, einschließlich Supervised Fine-Tuning, Low-Rank Adaptation und präferenzbasierter Ausrichtung. Er adressiert zudem die Modelleffizienz durch Quantisierung, Destillation und Mixture-of-Experts-Architekturen, neben dem Studium von Self-Attention- und Flash-Attention-Mechanismen.
Examines the implementation and performance of retrieval systems and autonomous agents.