Awesome GitHub RepositoriesHyperparameter Optimization Tools

Recommenders is a recommendation system framework designed for building, benchmarking, and deploying collaborative and content-based filtering models. It provides a machine learning model pipeline that standardizes the process of moving recommendation data from raw ingestion through training and evaluation. The project functions as a model benchmarking toolkit, utilizing standardized ranking and error metrics to compare the accuracy of different algorithms. It also serves as a hyperparameter tuning tool, allowing for the optimization of model behavior and performance via external configuratio

This repository serves as a comprehensive educational resource and study guide for mastering deep learning principles and neural network architectures. It provides a structured curriculum that covers the fundamental components of artificial intelligence, including backpropagation, optimization algorithms, and model performance tuning. The collection distinguishes itself by offering curated academic materials and practical implementation examples that bridge the gap between theoretical concepts and hands-on application. It includes specialized instructional guides for developing models capable

ai-edu is a comprehensive AI education curriculum and machine learning courseware collection. It provides theoretical tutorials, deep learning lab exercises, and project blueprints designed to teach artificial intelligence fundamentals through a combination of study and practical implementation. The project focuses on a learning-by-doing approach, guiding users from Python programming and neural network basics to advanced topics. It includes specialized instructional content on distributed AI training, MLOps educational guides for model quantization and pruning, and detailed frameworks for im

This project is a structured learning curriculum and technical reference for mastering deep learning with TensorFlow. It provides a comprehensive guide for building, training, and deploying neural networks, combining theoretical fundamentals with practical implementation examples. The repository distinguishes itself by covering the end-to-end machine learning workflow, from low-level tensor mathematics and linear algebra to the creation of complex model architectures. It includes specific guidance on developing data pipelines for diverse data types, such as images, text, and time-series seque

This is a scikit-learn automated machine learning framework designed to optimize model selection and hyperparameters. It functions as an automated model selector and hyperparameter optimization tool for classification and regression tasks, utilizing an automated ensemble builder to combine high-performing models for increased predictive accuracy. The system features a distributed search engine that uses Dask for parallel machine learning optimization across CPU cores or clusters. It implements a budget-based evaluation strategy through successive halving to prioritize promising model configur

Surprise is a Python library for building and analyzing recommendation systems. It provides a comprehensive toolkit for implementing collaborative filtering to predict user preferences and generate item suggestions based on historical rating patterns. The library includes dedicated tools for hyperparameter optimization and model evaluation. It allows for searching through parameter sets to find the most effective configurations and utilizes a suite of metrics to measure prediction accuracy. The framework covers the full development workflow, including data loading from various sources, the c

Skorch هي مكتبة تغلف الشبكات العصبية PyTorch في واجهة متوافقة مع scikit-learn، مما يسمح باستخدام نماذج التعلم العميق ضمن خطوط أنابيب التعلم الآلي القياسية وأدوات تحسين المعلمات الفائقة. تعمل كمحول بيانات، ومدير تدريب، وأداة تحسين تسد الفجوة بين وحدات التعلم العميق وسير عمل التعلم الآلي التقليدي. يتميز المشروع بتوفير مجموعة أدوات لأتمتة دورة حياة تدريب PyTorch، بما في ذلك التحقق من نقاط الحفظ المتكاملة، والتوقف المبكر، وجدولة معدل التعلم. كما يتيح التعلم بالنقل من خلال أدوات لتجميد طبقات نموذج معينة وضبط الأوزان المدربة مسبقاً لمهام متخصصة. يمتد سطح القدرة إلى تحويل البيانات، بما في ذلك تحويل البيانات الجدولية والمصفوفات الرقمية إلى تنسيقات موتر وتسجيل مقسمات النصوص. كما يوفر أدوات لاختيار تسريع الأجهزة، وتجميع الوحدات في الوقت المناسب، ونمذجة البيانات الاحتمالية لتحديد عدم اليقين. يتضمن النظام أدوات لتعيين المعلمات الفائقة لأوامر سطر الأوامر لضمان تجارب قابلة للتكرار.

FLAML هو إطار عمل للتعلم الآلي المؤتمت، وأداة لتحسين المعلمات الفائقة، ومنسق لوكلاء النماذج اللغوية الكبيرة. يوفر نظاماً لاختيار النماذج وضبطها عبر مختلف المتعلمين ومجموعات البيانات، مع تقديم مجموعة أدوات لتحسين معلمات الاستدلال وإعدادات الضبط الدقيق للنماذج اللغوية الكبيرة. يتميز المشروع بنظام ضبط للتعلم الفوقي (meta-learning) يحلل بيانات المهام التاريخية لتوليد تكوينات افتراضية تعتمد على البيانات، مما يسرع تقارب النموذج. كما يتيح تصميم أنظمة تعاونية متعددة الوكلاء من خلال سير عمل محادثي وتنسيق قائم على الأحداث. تغطي القدرات بحثاً فعالاً في الموارد عن المعلمات الفائقة لنماذج التعلم الآلي ودوال Python التعسفية، مع دعم مساحات البحث الهرمية وتحسين الهدف المعجمي. يتضمن إطار العمل أيضاً أدوات لاختيار النموذج المؤتمت، وبناء المجموعات المكدسة (stacked ensemble)، والتكوين بدون أمثلة (zero-shot)، وفرض قيود العدالة. يدعم النظام توسيع نطاق الضبط الموزع وتنفيذ التجارب المتزامنة عبر عناقيد الحوسبة لتقليل مدة البحث الإجمالية.

This project is a collection of scripts and workflows for training, fine-tuning, and deploying large language models using the Hugging Face Transformers toolkit. It functions as a distributed training framework, a library for natural language processing task implementations, and a system for building retrieval-augmented generation chatbots. The repository includes specialized tools for model optimization, such as a Bayesian hyperparameter optimizer for automatically tuning model settings. It provides implementations for scaling model training across multiple graphics processors using data par

This project is a collection of pretrained reinforcement learning agents and training scripts built on Stable Baselines3 and Gymnasium. It provides a framework for training agents to solve specific tasks, managing experiment reproducibility, and deploying pretrained models. The system includes a specialized benchmarking suite and optimization tools for tuning agent settings. It utilizes automated search spaces and distributed trials to maximize performance, while employing bootstrap sampling to generate statistically robust performance metrics and confidence intervals. Broad capabilities cov

هذا المشروع عبارة عن إطار عمل لتنفيذ تقطير المعرفة (knowledge distillation) وإدارة تجارب التعلم العميق داخل نظام PyTorch البيئي. يوفر بيئة منظمة لتدريب نماذج طلابية مدمجة لمحاكاة توزيعات مخرجات نماذج المعلمين الأكبر، بهدف تحسين كفاءة الاستدلال. يتميز إطار العمل بفصل معماريات النماذج عن وظائف الخسارة، مما يسمح بتكوين مرن لمكونات المعلم والطالب. كما يدمج إمكانات البحث الشبكي (grid search) للمعلمات الفائقة المؤتمتة لتحديد تكوينات التدريب المثلى بشكل منهجي، والتي تتم إدارتها من خلال تسلسل الملفات الخارجي لضمان الاتساق عبر عمليات التشغيل التجريبية. بعيداً عن وظائف التقطير والتحسين الأساسية، تتضمن الأداة إدارة شاملة لدورة حياة جلسات التدريب. ويشمل ذلك نقاط التحقق المستمرة لاستعادة الأخطاء، ومراقبة التقدم في الوقت الفعلي، وتجميع مقاييس الأداء في ملخصات منظمة للتحليل المقارن.