2 مستودعات
Awesome GitHub RepositoriesCustom Attribution Algorithm Frameworks
Generic base classes and hooks for implementing, benchmarking, and sharing new attribution methods.
Distinct from Model Interpretability Frameworks: Distinct from Model Interpretability Frameworks: focuses on the extensibility mechanism for adding new attribution algorithms, not the full interpretability workflow.
Explore 2 awesome GitHub repositories matching artificial intelligence & ml · Custom Attribution Algorithm Frameworks. Refine with filters or upvote what's useful.
Awesome Custom Attribution Algorithm Frameworks GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- pytorch/captum
pytorch/captum
5,652عرض على GitHubCaptum is an open-source library for explaining model predictions by attributing them to input features, neurons, and layers using gradient-based and perturbation-based methods. It provides a modular framework for implementing, evaluating, and combining a range of explanation techniques, including gradient-based attribution, perturbation-based analysis, game-theoretic Shapley value approximation, and surrogate model explanations, with support for parallelization and noise stabilization. The library distinguishes itself through its breadth of attribution methods and its support for advanced in
Provides a generic framework for implementing, benchmarking, and sharing new attribution methods.
Python - cdpierse/transformers-interpret
cdpierse/transformers-interpret
1,412عرض على GitHubTransformers-interpret هي مكتبة تشخيصية مصممة لقابلية تفسير نماذج تعلم الآلة القائمة على المحولات (transformer-based). تعمل كإطار عمل للإسناد يحدد مساهمة رموز الإدخال الفردية في التنبؤات النهائية للنموذج، مما يسمح للمستخدمين بتدقيق أنماط القرار وتصحيح أخطاء مهام معالجة اللغة الطبيعية. تستخدم المكتبة التحليل القائم على التدرج والاستبطان القائم على الخطافات (hooks) لتتبع كيفية تأثير ميزات إدخال محددة على مخرجات النموذج. من خلال تعيين درجات الإسناد الرقمية المجردة مرة أخرى إلى وحدات لغوية قابلة للقراءة البشرية، فإنها توفر رؤية واضحة لكيفية معالجة النماذج للنص. يدعم إطار العمل التحليل المستهدف، مما يتيح للمستخدمين شرح التنبؤات لفئات محددة أو فحص علاقات الإدخال الزوجية. بعيداً عن الإسناد الأساسي، تتضمن الأداة قدرات تصور تولد تمثيلات رسومية وجدولية لأهمية الميزة. تساعد هذه المخرجات في التحقق من أن النماذج تعتمد على بيانات ذات صلة بدلاً من أنماط غير مقصودة، مما يسهل فهماً أعمق لسلوك النموذج عبر بنيات المحولات المختلفة.
Provides a framework-agnostic engine that decouples attribution logic from specific transformer model architectures.
Jupyter Notebookcaptumcomputer-visiondeep-learning
