Awesome GitHub RepositoriesSecurity Testing

Cleverhans est une bibliothèque de machine learning adversarial pour TensorFlow qui sert de framework d'attaque, de benchmark de robustesse et de bibliothèque de défense. Elle fournit une collection d'outils pour générer des exemples adversariaux, tester la sécurité des réseaux de neurones et implémenter des mécanismes de protection pour accroître la résilience des modèles face aux entrées malveillantes. Le projet se concentre sur la création d'entrées perturbées conçues pour tromper les modèles de machine learning afin qu'ils produisent des prédictions incorrectes. Il permet l'évaluation de la stabilité et de la précision des modèles de deep learning lorsqu'ils sont soumis à du bruit adversarial, en fournissant des implémentations de référence d'attaques connues pour identifier les failles de sécurité. Le toolkit couvre la génération d'exemples adversariaux, la défense des modèles de machine learning et le benchmarking de robustesse des réseaux de neurones. Il utilise une interface agnostique au modèle et des implémentations d'attaques différentiables pour exécuter des perturbations basées sur le gradient et des boucles d'optimisation itératives.