3 مستودعات
Techniques to protect sensitive input data during model inference using obfuscation or masking.
Distinct from Byte Sequence Handling: Shortlist candidates focus on byte-stream decoding or memory buffers, not privacy-preserving masking for ML inference.
Explore 3 awesome GitHub repositories matching security & cryptography · Inference Data Privacy. Refine with filters or upvote what's useful.
Corenet is a deep learning training framework and computer vision model library designed for developing neural networks across vision, text, and audio modalities. It functions as a distributed training orchestrator for scaling workloads across multiple compute nodes and provides a multimodal data pipeline for processing image, text, and video data. The project includes a model conversion toolkit for transforming weights and architectures between different machine learning frameworks. It also provides tools for optimizing model performance on Apple Silicon and reducing response latency in gene
Enhances data privacy by masking input byte values during the model inference process.
The Adversarial Robustness Toolbox (ART) is an open-source library that provides a unified framework for evaluating, defending, and certifying machine learning models against adversarial threats. It wraps models from any framework behind a common estimator interface, enabling composable pipelines for attack generation, defense application, robustness certification, and privacy auditing across evasion, poisoning, and extraction threats. The library distinguishes itself by covering the full adversarial ML security lifecycle within a single toolkit. It supports gradient-based adversarial example
Probes a model's outputs to infer membership or attribute information, quantifying leakage risk.
Learn_Prompting هو مشروع تعليمي يركز على هندسة المطالبات (prompt engineering)، ويوفر المبادئ والتقنيات المطلوبة لصياغة مدخلات فعالة وتحسين جودة مخرجات الذكاء الاصطناعي التوليدي. يغطي المشروع استراتيجيات مطالبات متقدمة لتعزيز التفكير، والموثوقية، وجودة المخرجات. يتضمن ذلك تقنيات لتفكيك المهام، وتفكير سلسلة الأفكار (chain-of-thought)، واستخدام التوجيه بلقطات قليلة أو بدون لقطات (few-shot/zero-shot). كما يتناول أمان النموذج من خلال دراسة اختراق المطالبات، وتحليل الثغرات، وتدقيق الخصوصية لمنع تسرب البيانات الحساسة. يمتد النطاق إلى التطبيق العملي للذكاء الاصطناعي التوليدي عبر وسائط وسير عمل متنوعة، بما في ذلك توليد النصوص، وإنشاء صور واقعية، والإنتاج السمعي البصري. كما يغطي تطوير الوكلاء المستقلين، والبرمجة بمساعدة الذكاء الاصطناعي، وأتمتة سير عمل الأعمال للتسويق والاتصالات. يوفر المشروع موارد لتحسين النماذج، والتقييم، وإدارة دورات حياة المطالبات داخل بيئة تجريبية تفاعلية.
Identifies whether sensitive instructions are leaking through model outputs to detect privacy risks.