1 مستودع
Awesome GitHub RepositoriesCUDA Runtime Detections
Automatic detection of CUDA toolkit versions and GPU capabilities to ensure container compatibility at runtime.
Distinct from Hardware Capability Detection: Distinct from Hardware Capability Detection: focuses specifically on CUDA runtime version and GPU capability detection for container compatibility, not general hardware feature detection.
Explore 1 awesome GitHub repository matching development tools & productivity · CUDA Runtime Detections. Refine with filters or upvote what's useful.
Awesome CUDA Runtime Detections GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- dusty-nv/jetson-containers
dusty-nv/jetson-containers
4,386عرض على GitHubJetson Containers هو نظام إدارة حاويات يقوم ببناء وتشغيل صور Docker المسرعة بـ GPU لأحمال عمل التعلم الآلي على أجهزة ARM64 الطرفية. يعمل كمنسق حاويات CUDA، حيث يكتشف تلقائياً إصدار مجموعة أدوات CUDA للمضيف وقدرات GPU لضمان توافق الحاوية في وقت التشغيل، مع اختيار صورة الحاوية الصحيحة من خلال مطابقة إصدار JetPack أو L4T للمضيف عند الإطلاق. يقدم المشروع حاويات مهيأة مسبقاً لتنفيذ نماذج لغوية كبيرة مكممة وخطوط أنابيب توليد معززة بالاسترجاع (RAG) محسنة للأجهزة الطرفية، إلى جانب حاويات ROS وإطارات عمل الذكاء الاصطناعي المتكاملة لنشر الوكلاء المستقلين والمعالجة متعددة الوسائط. يقوم نظام البناء الطبقي المعياري الخاص به بتجميع صور Docker من طبقات قابلة لإعادة الاستخدام ومبنية مسبقاً، وتجميع إطارات عمل AI/ML من المصدر لتحسينها لمعماريات GPU الطرفية المحددة وإصدارات CUDA، مع تخزين مؤقت محلي للعجلات (wheel caching) لتسريع عمليات البناء اللاحقة. توفر المنصة حاويات Docker مبنية مسبقاً مع إصدارات مسرعة بـ GPU من PyTorch و TensorFlow و JAX و ONNX Runtime لمنصات Jetson، مما يدعم قدرات مثل تشغيل LLMs، ونماذج الكلام، ونماذج الرؤية واللغة، والترجمة الآلية العصبية على الأجهزة الطرفية. كما يتيح بناء حاويات مخصصة مع حزم ذكاء اصطناعي مسرعة بـ GPU، وتشغيل حاويات Triton Inference Server و Transformer Engine، وتسريع سير عمل علوم البيانات باستخدام مكتبات RAPIDS.
Detects the host's CUDA toolkit version and GPU capabilities to ensure container compatibility at runtime.
Jupyter Notebookcontainersdockerdockerfiles
