1 रिपॉजिटरी
Awesome GitHub RepositoriesProduction Data Engineering
The practice of managing the lifecycle, versioning, and monitoring of data pipelines in production environments.
Distinct from Data Product Deployers: None of the candidates cover the holistic management of deployment, version control, and monitoring for production data pipelines.
Explore 1 awesome GitHub repository matching data & databases · Production Data Engineering. Refine with filters or upvote what's useful.
Awesome Production Data Engineering GitHub Repositories
AI के साथ बेहतरीन रिपॉजिटरी खोजें।हम AI का उपयोग करके सबसे सटीक रिपॉजिटरी खोजेंगे।
- mage-ai/mage-ai
mage-ai/mage-ai
8,759GitHub पर देखेंMage AI एक Python-आधारित डेटा पाइपलाइन ऑर्केस्ट्रेटर और सेल्फ-होस्टेड डेटा इंटीग्रेटेड डेवलपमेंट एनवायरनमेंट (IDE) है। इसे ब्लॉक-आधारित पाइपलाइन डिज़ाइन और इंटरैक्टिव नोटबुक इंटरफ़ेस का उपयोग करके डेटा वर्कफ़्लो बनाने, शेड्यूल करने और मॉनिटर करने के लिए डिज़ाइन किया गया है। यह प्लेटफ़ॉर्म जेनेरेटिव AI क्षमताओं को एकीकृत करके खुद को अलग बनाता है, जिससे उपयोगकर्ताओं को स्वचालित डेटा स्ट्रीम में आर्टिफिशियल इंटेलिजेंस को शामिल करने के लिए API के माध्यम से लार्ज लैंग्वेज मॉडल प्रोवाइडर्स से जुड़ने की अनुमति मिलती है। यह एक Apache Spark डेटा प्रोसेसर के रूप में भी कार्य करता है, जो उच्च-वॉल्यूम एनालिटिक्स और बड़े पैमाने पर डेटा प्रोसेसिंग के लिए आवश्यक कर्नल्स और इंफ्रास्ट्रक्चर को प्रबंधित करता है। यह सिस्टम ETL वर्कफ़्लो ऑटोमेशन, dbt मॉडल मैनेजमेंट, और डेटा स्ट्रीम डिस्कवरी सहित डेटा इंजीनियरिंग क्षमताओं की एक विस्तृत श्रृंखला को कवर करता है। यह Git के माध्यम से वर्ज़न कंट्रोल इंटीग्रेशन, कंटेनराइज़्ड डिप्लॉयमेंट, और डेवलपमेंट व प्रोडक्शन वातावरण में पाइपलाइन्स को प्रबंधित करने के लिए रोल-आधारित एक्सेस कंट्रोल के लिए टूल्स प्रदान करता है। मॉनिटरिंग को सिस्टम परफॉर्मेंस टेलीमेट्री और पाइपलाइन निष्पादन डिबगिंग के माध्यम से संभाला जाता है।
Manages the full lifecycle of data pipelines, including versioning and monitoring in production environments.
Python
