1 repository
Guides for documenting the implementation and scaling of AI model applications.
Distinct from Pre-trained Model Application: Focuses on the educational documentation of application implementation rather than the tools for utilizing the models themselves
Explore 1 awesome GitHub repository matching artificial intelligence & ml · Application Documentation. Refine with filters or upvote what's useful.
Acest proiect este un ghid de studiu cuprinzător pentru cursuri tehnice și o referință pentru învățarea arhitecturilor și metodelor de antrenare a modelelor Transformer și a modelelor de limbaj mari (LLM). Servește ca o prezentare tehnică pentru înțelegerea modului în care rețelele neuronale procesează datele și cum să aliniezi comportamentul modelului cu obiective specifice de performanță. Repository-ul oferă ghiduri specializate pe mai multe domenii cheie ale dezvoltării modelelor. Aceasta include referințe detaliate pentru arhitecturile transformer, framework-uri de implementare pentru retrieval-augmented generation și fluxuri de lucru agentice, precum și ghiduri tehnice pentru optimizarea și fine-tuning-ul modelelor. Conținutul acoperă o gamă largă de capabilități, inclusiv fine-tuning supervizat, adaptare low-rank și aliniere bazată pe preferințe. De asemenea, abordează eficiența modelului prin cuantizare, distilare și arhitecturi mixture-of-experts, alături de studiul mecanismelor de self-attention și flash attention. Resursele sunt furnizate pentru dezvoltare în C#, JavaScript și Python.
Provides documentation and references for implementing retrieval systems and reasoning models.