2 مستودعات
Awesome GitHub RepositoriesAI Generated Code Scanning
Security analysis specifically for code fragments produced by AI models prior to execution.
Distinct from Source Code Vulnerability Scanning: Specializes source code scanning for the specific context of AI-generated outputs to prevent runtime execution of malicious commands.
Explore 2 awesome GitHub repositories matching security & cryptography · AI Generated Code Scanning. Refine with filters or upvote what's useful.
Awesome AI Generated Code Scanning GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- facebookresearch/purplellama
facebookresearch/PurpleLlama
4,239عرض على GitHubPurpleLlama هي مجموعة من مجموعات أدوات الأمان وأطر العمل المصممة لتدقيق ثغرات النماذج اللغوية الكبيرة وتنفيذ حواجز حماية الإدخال والإخراج في وقت التشغيل. توفر إطار عمل لتقييم الأمان ومجموعة قياس أداء لتحديد المخاطر المرتبطة بحقن المطالبات وتوليد الكود الضار. يتضمن المشروع مشرف محتوى وفلاتر إدخال وإخراج تستخدم تصنيفاً موحداً لتحديد وحظر المحتوى الضار، ومحاولات كسر الحماية، والأوامر غير الآمنة. كما يتميز بقدرات لتصنيف المستندات الحساسة لمنع الكشف غير المصرح به عن المعلومات الخاصة. يغطي النظام سطح أمان واسعاً بما في ذلك تصنيف السلامة متعدد اللغات، ومسح الكود في وقت التنفيذ بحثاً عن الثغرات، وقياس مخاطر الأمن السيبراني بناءً على أطر العمل القياسية في الصناعة.
Inspects generated code fragments for security vulnerabilities and malicious commands prior to execution.
Python - meta-llama/purplellama
meta-llama/PurpleLlama
4,227عرض على GitHubPurpleLlama هي مجموعة من مكونات الأمان ومجموعات الأدوات المصممة لنماذج اللغة الكبيرة. توفر أنظمة متخصصة بما في ذلك ماسح أمان الكود، ونظام اعتدال المحتوى، وجدار حماية لحقن التوجيهات (prompt injection)، ومجموعة أدوات تقييم الأمان. يمكن المشروع من تحديد وحظر محاولات كسر الحماية والتوجيهات الضارة أثناء استنتاج النموذج. يتضمن قدرات لاكتشاف المحتوى المخالف عبر لغات ووسائط متعددة ومسح الكود الذي تم إنشاؤه بحثاً عن ثغرات أمنية لمنع تنفيذ الأوامر غير الآمنة. يدعم إطار العمل أيضاً قياس مخاطر الأمن السيبراني من خلال تقييمات وضع الأمان وتنفيذ مرشحات الإدخال والإخراج لفرض حواجز الحماية داخل سير عمل النموذج.
Performs security analysis on AI-generated code fragments to prevent the execution of malicious commands.
Python
