Awesome GitHub RepositoriesSecurity Testing

Cleverhans este o bibliotecă TensorFlow pentru machine learning adversar, care servește drept framework de atac, benchmark de robustețe și bibliotecă de apărare. Oferă o colecție de instrumente pentru a genera exemple adverse, a testa securitatea rețelelor neuronale și a implementa mecanisme de protecție pentru a crește reziliența modelelor împotriva input-urilor malițioase. Proiectul se concentrează pe crearea de input-uri perturbate, concepute pentru a induce în eroare modelele de machine learning să facă predicții incorecte. Permite evaluarea stabilității și acurateței modelelor de deep learning atunci când sunt supuse zgomotului advers, oferind implementări de referință ale metodelor de atac cunoscute pentru a identifica vulnerabilitățile de securitate. Toolkit-ul acoperă generarea de exemple adverse, apărarea modelelor de machine learning și benchmarking-ul robusteții rețelelor neuronale. Utilizează o interfață agnostică față de model și implementări de atac diferențiabile pentru a executa perturbări bazate pe gradient și bucle de optimizare iterativă.