Awesome GitHub RepositoriesCold Start Optimizations

Hermes is a mobile-optimized JavaScript runtime and engine designed for React Native. It functions as an ahead-of-time bytecode compiler that converts JavaScript source code into a dense binary format during the build process to eliminate the need for parsing and compilation at runtime. The engine features a baseline JIT compiler that generates native machine code for frequently called functions to improve performance after the initial launch. It also includes a mobile-optimized garbage collector that precisely identifies reachable objects to minimize memory overhead and pause times on resour

llrt is a low-latency JavaScript runtime based on the QuickJS engine, specifically designed for executing asynchronous functions in serverless environments. It provides a lightweight execution layer optimized for fast startup times and minimal memory usage when running ES2023 workloads. The project differentiates itself by bundling natively optimized cloud service SDKs directly into the runtime binary to eliminate external dependency loading. To further reduce cold start latency, it implements parallel connection warming for TLS and network handshakes during the startup phase. The runtime co

OpenWhisk is a serverless cloud platform designed for deploying and executing stateless functions in response to API calls or events. It serves as a complete serverless stack, providing an API gateway for functions, a function-as-a-service runtime manager, and an event-driven workflow engine. The platform distinguishes itself through a polyglot execution model that supports multiple language runtimes and allows for the creation of custom runtimes using Docker containers. It enables complex logic through function orchestration and composition, allowing multiple functions to be chained into seq

IncludeOS هو نظام تشغيل من نوع unikernel يجمع كود التطبيق مع تعريفات النواة الضرورية فقط في صورة واحدة قابلة للإقلاع. يعمل النظام كجهاز افتراضي سحابي فعال من حيث الموارد وبيئة تشغيل خفيفة بدون خادم (serverless) مصممة لتقليل استهلاك الذاكرة وأوقات الإقلاع. يوفر المشروع طبقة توافق مع Linux عبر مكتبة C، مما يسمح بتجميع وتشغيل التطبيقات المكتوبة لـ Linux داخل بيئة unikernel. كما يعمل كإطار عمل لأجهزة الشبكة لبناء جدران حماية وموازنات أحمال عالية الأداء باستخدام حزم TCP/IP قابلة للتهيئة. تشمل قدراته الواسعة إنشاء صور جهاز مصغرة للنشر على منصات مثل KVM وQemu وVMware، بالإضافة إلى تعزيز أمان أجهزة IoT المضمنة عبر منع إعادة التهيئة أثناء التشغيل. يدعم النظام بدء تشغيل الخدمة السريع لتحسين أوقات التشغيل البارد (cold starts) ويستخدم جدولة غير استباقية للحفاظ على زمن استجابة متوقع.

opennextjs-aws هو محول بنية تحتية بدون خادم وأداة نشر تحول مخرجات بناء Next.js إلى حزم متوافقة للاستضافة على AWS Lambda و S3. يعمل كمحول نشر يربط مخرجات إطار العمل المحددة بوظائف بدون خادم وتخزين الكائنات. يتميز المشروع بتنفيذ تحسينات خاصة بدون خادم، بما في ذلك مدير ذاكرة مؤقتة يزامن التجديد الثابت التزايدي وذاكرة التخزين المؤقت للجلب عبر S3 أو DynamoDB. يتميز بمحسن للبدء البارد يستخدم تصغير الحزم وتدفئة الوظائف المجدولة لتقليل زمن الوصول، إلى جانب خط أنابيب مخصص لتحسين الصور لجلب الملفات المصدر من S3 وتسليمها عبر CDN. يغطي النظام مجموعة واسعة من القدرات بما في ذلك تكامل البرمجيات الوسيطة للحافة، وإعادة التحقق من الخلفية القائمة على الطابور، وتوزيع المسارات متعدد الأهداف. كما يدير حركة المرور من خلال توجيه CDN، وحقن بيانات الموقع الجغرافي، وبث استجابة الخادم لتحسين الوقت حتى البايت الأول. توفر الأداة خيارات تخصيص واسعة لخطوط أنابيب البناء، وسلوكيات المحول، ومنطق الخادم لدعم الاحتياجات المعمارية المتنوعة وهياكل Monorepo.

هذا المشروع عبارة عن توزيعة OpenJDK مخصصة ومحسنة للتطبيقات الموزعة ذات الإنتاجية العالية. يتميز بمحرك تشغيل coroutine يستبدل خيوط النواة (kernel threads) بـ coroutines متماثلة خفيفة الوزن لزيادة التزامن وتقليل عبء الجدولة مع الحفاظ على توافق واجهة Java القياسية. يتميز وقت التشغيل بمدير موارد متعدد المستأجرين ومزودي شبكات متخصصين. ينفذ عزل الموارد لوحدة المعالجة المركزية والذاكرة لمنع التداخل بين المستأجرين، ويدمج الوصول المباشر للذاكرة عن بُعد (RDMA) لنقل البيانات بإنتاجية عالية وزمن وصول منخفض. يغطي النظام نطاقاً واسعاً من قدرات الأداء والتشخيص، بما في ذلك تجميع الإحماء الموجه بالملفات الشخصية (profile-guided warmup) لتسريع بدء التشغيل، واستعادة ذاكرة الكومة (heap) الديناميكية، وتحسينات متخصصة لمعالجة البيانات الضخمة والحسابات الرقمية. تتضمن مجموعة المراقبة الخاصة به بث أحداث مسجل الرحلات (flight recorder)، وتحليل تفريغ الكومة، وفحص حالة الـ coroutine. يتم توفير دعم طويل الأمد عبر تحديثات أمنية وصيانة ربع سنوية، مع توفر أدوات نشر للبيئات المعتمدة على الحاويات.

AWS Java SDK هي واجهة برمجية ومكتبة عميل لإدارة والتفاعل مع البنية التحتية وخدمات سحابة AWS باستخدام لغة Java. تعمل كغلاف لواجهة برمجة التطبيقات (API wrapper) يربط التطبيقات بالتخزين السحابي، وقواعد البيانات، وموارد الحوسبة من خلال مجموعة قياسية من فئات Java. توفر المكتبة نموذج إدخال/إخراج غير محظور (Non-blocking I/O) ومعالجة طلبات قائمة على المستقبلات (Futures) لدعم عمليات سحابية غير متزامنة ذات إنتاجية عالية. وتتضمن آليات لتحسين الأداء في بيئات الحوسبة بدون خادم (Serverless) لتقليل أوقات البدء الأولية. تدير الـ SDK دورة حياة التفاعل مع الخدمة السحابية بالكامل، بما في ذلك ترقيم الصفحات التلقائي لمجموعات النتائج متعددة الأجزاء ونظام حل بيانات الاعتماد القائم على السلاسل الذي يقوم بتحميل وتحديث رموز الأمان. كما تتميز بطبقة نقل HTTP قابلة للتوصيل، مما يسمح باستبدال عميل الشبكة الافتراضي بتنفيذات مخصصة في وقت التشغيل.