Awesome GitHub RepositoriesNeural Network Interpretability

pykan is a library for implementing Kolmogorov-Arnold Networks, replacing fixed node activation functions with learnable spline functions located on the network edges. It serves as an interpretable AI framework and symbolic regression tool designed to derive transparent mathematical rules from complex data. The project focuses on converting learned numerical functions into human-readable symbolic expressions through library matching and formula conversion. It utilizes additive-compositional topologies and learnable piecewise polynomial segments to approximate non-linear mappings. The framewo

This project is a static educational website and comprehensive curriculum focused on computer vision and deep learning. It serves as a public repository of instructional materials, lecture notes, and technical guides specifically detailing convolutional neural networks and visual recognition. The site is developed using static-site generation to host course documentation and student project directories. It provides structured academic resources that guide learners through image classification, generative modeling, and the implementation of various neural network architectures. The curriculum

هذه مجموعة أدوات تصور PyTorch CNN مصممة لقابلية تفسير الشبكات العصبية. توفر مجموعة من الأدوات لشرح قرارات النموذج وتحليل السلوك الداخلي للشبكات العصبية التلافيفية من خلال تصور التنشيطات، والتدرجات، والمرشحات. يطبق المشروع تقنيات متخصصة لتوليد صور تمثيلية، بما في ذلك تحسينات Deep Dream لتضخيم الأنماط وتوليد الصور الخاصة بالفئات عبر تحسين المدخلات. يتميز أيضاً بمولد خرائط بروز (saliency map) ينتج خرائط حرارية قائمة على التدرج لتحديد مناطق الصورة المحددة التي تؤثر على نتيجة التصنيف. تغطي مجموعة الأدوات قدرات أوسع لتحليل الطبقات، مثل إعادة بناء تمثيلات المدخلات من التنشيطات الداخلية وتصور مرشحات الشبكة. تتضمن طرقاً لتصور التدرج وتقنيات تقليل الضوضاء لتحسين وضوح خرائط البروز.

Tensorpack هو إطار عمل شبكة عصبية TensorFlow عالي المستوى ومكتبة بحثية مصممة لبناء وتدريب نماذج التعلم العميق. يوفر مجموعة من بنيات الشبكات العصبية القابلة للتكرار للرؤية الحاسوبية، والمهام التوليدية، والتعلم التعزيزي، ومعالجة اللغات الطبيعية. يتميز المشروع بخط معالجة بيانات تعلم عميق متخصص يستخدم Python الخالص لتحميل البيانات المتوازي والبث. ويتضمن منسق تدريب متعدد وحدات GPU لتوزيع أعباء العمل عبر استراتيجيات موازية للبيانات ومجموعة أدوات قابلية تفسير مخصصة لتصور خرائط بروز وتنشيط النموذج. يغطي إطار العمل مجموعة واسعة من القدرات، بما في ذلك خطوط معالجة الرؤية الحاسوبية لاكتشاف الكائنات والتجزئة الدلالية، ونمذجة التسلسل للكلام والنص، وتطوير وكيل التعلم التعزيزي. كما يوفر أدوات تحسين النموذج لتكميم الأوزان والتدريب منخفض البت، إلى جانب مرافق لإعادة إنتاج الأوراق البحثية الأكاديمية وتحويل أوزان نموذج Caffe القديمة.

هذا المشروع عبارة عن مورد تعليمي شامل ودليل تقني يركز على تعلم الآلة القابل للتفسير والذكاء الاصطناعي القابل للشرح. يعمل ككتاب مدرسي ومرجع لتنفيذ التقنيات التي تجعل نماذج تعلم الآلة المعقدة شفافة ومفهومة للبشر. يوفر المورد إرشادات حول بناء نماذج شفافة بطبيعتها، مثل أشجار القرار والنماذج الخطية المتفرقة، وتطبيق طرق الشرح اللاحقة على أنظمة الصندوق الأسود. يفصل المنهجيات المحددة لقياس أهمية الميزة، وتوليد مبررات للتنبؤات الفردية، واستخدام نماذج بديلة لتقريب عمليات صنع القرار المعقدة. يغطي المحتوى مجموعة واسعة من القدرات التحليلية، بما في ذلك تحليل تأثير الميزة العالمية والمحلية، وقابلية تفسير رؤية الكمبيوتر، واستخدام المساهمات القائمة على نظرية الألعاب مثل قيم Shapley. كما يتناول تقييم النموذج من خلال تقييمات القابلية للتفسير، وسير عمل تصحيح الأخطاء لتحديد اختصارات النموذج، وتصميم هياكل الخوارزميات الشفافة. يتم تنفيذ المشروع كمجموعة من دفاتر Jupyter.

Lucid هي مجموعة أدوات قابلية التفسير (interpretability) لـ TensorFlow ومكتبة تصور مصممة لتحليل التمثيلات الداخلية للشبكات العصبية. تعمل كإطار عمل تحسين قائم على التدرج يولد صوراً وأطالس للكشف عن الميزات التي تعلمتها عصبونات وطبقات معينة. تمكن المكتبة من إنشاء أطالس التنشيط وربط تنشيطات الشبكة عالية الأبعاد في مساحات منخفضة الأبعاد لدراسة سلوك النموذج. تستخدم معلمات الصور القابلة للاشتقاق لتحسين المدخلات المرئية التي تنشط مكونات الشبكة إلى أقصى حد. يغطي النظام مجموعة واسعة من البنية التحتية لقابلية التفسير، بما في ذلك تعيين توزيع التنشيط وأبحاث تصور الميزات. كما يتضمن أدوات لاستيراد النماذج المدربة مسبقاً وحفظ أوزان الشبكة للتحليل المستمر.

This project is a PyTorch library for building and training Kolmogorov-Arnold Networks. It implements a neural network architecture that replaces fixed activation functions with learnable spline-based functions on edges, serving as a tool for interpretable machine learning. The implementation utilizes reformulated matrix operations to reduce memory overhead and increase computation speed. It employs L1 regularization to sparsify network weights, which improves the transparency of the model's internal logic and decisions. The framework covers a range of capabilities including grid-based funct

تعمل هذه المجموعة كإطار عمل لتفسير عمليات اتخاذ القرار في الشبكات العصبية الرسومية (graph neural networks). تعمل كمكتبة لتحليل كيفية معالجة هذه النماذج لبيانات الشبكة المعقدة، وتوفر طرقاً لتحديد سمات العقد المحددة والأنماط الهيكلية التي تؤثر على النتائج التنبؤية. يتميز المشروع باستخدام استخراج المخططات الفرعية المحسّن بالقناع (mask-optimized subgraph extraction) وتعيين الإسناد القائم على التدرج لعزل المكونات الدنيا للرسم البياني التي تحافظ على التنبؤ الأصلي للنموذج. من خلال فصل طبقات معالجة الرسم البياني عن منطق التفسير، تسمح البنية بتحليل متسق عبر أنواع مختلفة من الشبكات العصبية الرسومية، بما في ذلك النماذج التلافيفية والقائمة على الانتباه. بعيداً عن التفسير الأساسي، تدعم المكتبة تدريب نماذج الرسوم البيانية على مجموعات بيانات اصطناعية وواقعية وتسهل تصحيح أخطاء نماذج تعلم الآلة. تتضمن إمكانيات لتصور تفسيرات النموذج من خلال دفاتر ملاحظات تفاعلية، مما يتيح عرض خرائط حرارة الإسناد وهياكل الشبكة المعقدة للمساعدة في تحديد الميزات والمخططات الفرعية المؤثرة.