Awesome GitHub RepositoriesDataset Blending

gpt-neox is a distributed training system and framework for building large-scale autoregressive language models. It implements the transformer architecture and provides a toolkit for training models with billions of parameters by distributing weights across compute clusters. The framework distinguishes itself through extensive support for distributed model parallelism, including pipeline and sequence parallelism, to overcome single-device memory limits. It further supports sparse model architectures using a mixture of experts system with Sinkhorn-based routing. The project covers a broad ran

Torchtune is a PyTorch-native library for fine-tuning, aligning, and quantizing large language models. It provides a config-driven system for instantiating components, orchestrating distributed training, and managing parameter-efficient fine-tuning with quantization support, all through YAML-based configurations and command-line overrides. The library distinguishes itself through its comprehensive post-training workflow orchestration, combining supervised fine-tuning, preference optimization (DPO, PPO, GRPO), knowledge distillation, and quantization-aware training in a single configurable pip

هذا المشروع عبارة عن إطار عمل للمواءمة ومجموعة من خطوط المعالجة لتدريب النماذج اللغوية باستخدام الضبط الدقيق الخاضع للإشراف (supervised fine-tuning) وتحسين التفضيلات. يوفر أدوات لتنفيذ التدريب الموزع واسع النطاق عبر وحدات معالجة رسومية (GPUs) وعقد حوسبة متعددة، إلى جانب نظام لقياس مدى فائدة النموذج وجودة الحوار من خلال معايير قياس أحادية ومتعددة الجولات. يتضمن إطار العمل أدوات متخصصة لتحسين التفضيلات المباشر (DPO) لتنقية سلوك النموذج باستخدام بيانات مقترنة دون الحاجة إلى نموذج مكافأة منفصل. كما يدعم المواءمة الدستورية للذكاء الاصطناعي وتدريب نماذج المكافآت لترتيب وتقييم الاستجابات بناءً على معايير التفضيل. يغطي المشروع قدرات أوسع لدمج وخلط مجموعات البيانات، والضبط الدقيق الفعال للمعلمات عبر التكيف منخفض الرتبة (LoRA)، وتحسين أخذ عينات الرفض. يدير دورة حياة التدريب من خلال وصفات تعتمد على الإعدادات، ويوفر أنظمة لبث مقاييس الأداء في الوقت الفعلي إلى لوحات تحكم خارجية.

OpenVLA is a vision-language-action model and framework designed for general-purpose robotic manipulation. It provides a robotic policy training framework and a control inference engine that map visual and textual inputs to robotic control actions, enabling zero-shot instruction following on hardware. The project includes a robotics dataset pipeline for standardizing diverse trajectory data and managing dataset mixtures. It supports large-scale model training through distributed GPU compute and sharded data parallelism, alongside parameter-efficient adaptation for fine-tuning models to new ta