क्षमता और प्रदर्शन मीट्रिक्स
मापें कि सेवा कितनी भरी है, उसके सबसे धीमे अनुरोध कितने धीमे हैं, और उपयोगकर्ताओं के नोटिस करने से पहले कितनी जगह बची है, फिर माँग का पूर्वानुमान सीमाओं के साथ लगाएँ ताकि क्षमता ज़रूरत से पहले पहुँचे, शिकायत के बाद नहीं।
अवलोकन और प्रेरणा
उपलब्धता बताती है कि सेवा जवाब देती है या नहीं। क्षमता और प्रदर्शन बताते हैं कि वह कितना अच्छा जवाब देती है, और माँग बढ़ने पर कितनी देर तक देती रहेगी। आठ सेकंड में जवाब देने वाला चेकआउट पृष्ठ अधिकांश उपलब्धता परिभाषाओं में "चालू" है और हर ग्राहक की परिभाषा में "टूटा हुआ"। अपने स्टोरेज के 95 प्रतिशत पर चल रहा डेटाबेस आज स्वस्थ है और अगले महीने का आउटेज। यह विषय उन मापों को कवर करता है जो इन अंतरों को बंद करते हैं।
क्षमता नियोजन (capacity planning) बदलती माँग को पूरा करने के लिए सेवा को ज़रूरी संसाधन तय करने की प्रैक्टिस है। ITIL 4 में यह क्षमता और प्रदर्शन प्रबंधन प्रैक्टिस में आता है, जिसका उद्देश्य यह सुनिश्चित करना है कि सेवाएँ सहमत और अपेक्षित प्रदर्शन हासिल करें और वर्तमान तथा भविष्य की माँग लागत-प्रभावी ढंग से पूरी करें। प्रैक्टिस इसे तीन स्तरों पर वर्णित करती है: व्यवसाय (संगठन अपनी सेवाओं से क्या माँगेगा), सेवा (भार में सेवा कैसे व्यवहार करती है), और घटक (हर सर्वर, डेटाबेस, नेटवर्क लिंक या कतार कैसे व्यवहार करती है)। इस विषय के माप अधिकतर सेवा और घटक के स्तरों पर काम करते हैं, और कुछ भी पूर्वानुमान करने के लिए उन्हें व्यवसाय के स्तर से इनपुट चाहिए।
साइट विश्वसनीयता इंजीनियरिंग (site reliability engineering, SRE) विलंबता, ट्रैफ़िक, त्रुटियों और संतृप्ति को किसी भी उपयोगकर्ता-मुखी प्रणाली पर देखने योग्य चार संकेत मानती है, और प्रदर्शन के लक्ष्यों को सेवा-स्तर उद्देश्यों से जोड़ती है (देखें विषय 5.2, SLI, SLO और त्रुटि बजट)। एजाइल टीमें क्षमता से डिलीवरी के प्रश्न के रूप में मिलती हैं: क्या अगली रिलीज़ अपेक्षित भार उठा सकती है, और उत्तर का स्वामी कौन है? प्रदर्शन को स्वीकृति की कसौटी मानना, पाइपलाइन में जाँचा हुआ, बातचीत को पहले ले आता है।
इस विषय में कई शब्द बार-बार आते हैं। उपयोग (utilization) अंतराल में संसाधन की क्षमता का वह हिस्सा है जो इस्तेमाल में है, उदाहरण के लिए प्रोसेसर के समय का व्यस्त हिस्सा। संतृप्ति (saturation) वह काम है जो प्रतीक्षा में है क्योंकि संसाधन पूरी तरह उपयोग में है, उदाहरण के लिए रन कतार की लंबाई या अनुरोधों का बैकलॉग। उपयोग बताता है कि संसाधन कितना व्यस्त है। संतृप्ति बताती है कि काम उसके लिए कतार में है या नहीं, और उपयोगकर्ता कतारें ही महसूस करते हैं। विलंबता (latency) अनुरोध और उसके उत्तर के बीच का समय है। थ्रूपुट (throughput) वह दर है जिस पर सेवा काम पूरा करती है, उदाहरण के लिए प्रति सेकंड अनुरोध। हेडरूम (headroom) वर्तमान चरम भार और उस भार के बीच का अंतर है जिस पर सेवा अपने उद्देश्य पूरे करना बंद कर देती है। माँग (demand) वह काम है जो उपयोगकर्ता और व्यवसाय सेवा से माँगते हैं, जो उस काम के समान नहीं जो वह पूरा करती है: अतिभारित सेवा जितना माँगा गया उससे कम पूरा करती है।
प्रतीक्षा-पंक्तियों का एक गुण समझाता है कि ये माप जैसा करते हैं वैसा क्यों करते हैं। कतार सिद्धांत (queueing theory) दिखाता है कि यादृच्छिक आगमन वाली सेवा के लिए प्रतीक्षा का समय उपयोग के मध्यम रहने पर धीरे-धीरे बढ़ता है और पूर्ण उपयोग के निकट पहुँचने पर तेज़ी से चढ़ता है। लिटिल का नियम (Little's law) प्रणाली में अनुरोधों की औसत संख्या को आगमन की दर और हर अनुरोध के वहाँ बिताए औसत समय से जोड़ता है। ऊँचे औसत उपयोग पर संसाधन चट्टान के निकट है। वक्र का सटीक आकार सेवा पर निर्भर करता है, इसलिए सामान्य लेख से सीमा उधार लेने की जगह लोड टेस्टिंग (load testing) से अपनी प्रणाली को परखकर उसे खोजें।
विलंबता को विशेष सावधानी चाहिए क्योंकि औसत वह अनुभव छिपाता है जो मायने रखता है। परसेंटाइल (percentile) वह मान बताता है जिसके नीचे प्रेक्षणों का दिया हिस्सा आता है: 95वाँ परसेंटाइल (p95) वह विलंबता है जिसे 95 प्रतिशत अनुरोध हराते हैं। टेल लेटेंसी (tail latency) उन प्रणालियों में हावी होती है जहाँ उपयोगकर्ता की एक क्रिया कई आंतरिक कॉलों में बँटती है। अकेले माध्य की जगह परसेंटाइल रिपोर्ट करें (देखें विषय 1.6, सेवा मीट्रिक्स के लिए सांख्यिकीय साक्षरता, और विषय 3.3, घटना की प्रतिक्रिया और समाधान का समय, जो समाधान के समय के लिए वही तर्क देता है)।
अंत में, क्षमता माँग के पूर्वानुमान (forecasting) पर निर्भर है, और माँग के पैटर्न होते हैं: दैनिक चक्र, साप्ताहिक चक्र, और कैलेंडर, अभियानों और उत्पाद के लॉन्च से बँधी मौसमीयता (seasonality)। ऑटोस्केलिंग (autoscaling) इसका अनुभव बदलती है, क्योंकि क्लाउड प्लैटफ़ॉर्म मिनटों में संसाधन जोड़ सकते हैं, पर वह विषय को हटाती नहीं। ऑटोस्केलिंग की सीमाएँ, विलंब, लागत और ऐसी निर्भरताएँ हैं जो स्केल नहीं होतीं, जैसे डेटाबेस या तीसरे पक्ष का इंटरफ़ेस। लागत का पक्ष FinOps के साथ है (देखें विषय 7.6, FinOps और क्लाउड लागत मीट्रिक्स)।
पड़ोसी विषय उपलब्धता का अंकगणित (देखें विषय 5.3, उपलब्धता मीट्रिक्स), अलर्ट का डिज़ाइन (देखें विषय 5.5, निगरानी और अलर्ट की गुणवत्ता के मीट्रिक्स), और रोटेशन का भार (देखें विषय 5.7, टॉइल और ऑन-कॉल मीट्रिक्स) कवर करते हैं। यहाँ विषय सेवा के अपने संसाधन और प्रतिक्रिया के समय हैं।
मुख्य सिद्धांत
- उपयोग के साथ संतृप्ति भी मापें। उपयोग दिखाता है कि संसाधन कितना व्यस्त है, और संतृप्ति दिखाती है कि काम प्रतीक्षा कर रहा है या नहीं। उपयोगकर्ता प्रतीक्षा अनुभव करते हैं।
- विलंबता को वितरण के रूप में रिपोर्ट करें। हर उपयोगकर्ता-मुखी संचालन के लिए परसेंटाइल उपयोग करें, और धीमी पूँछ दिखाई देती रखें। विषम वितरण का औसत लगभग किसी का वर्णन नहीं करता।
- लक्ष्यों को उपयोगकर्ता के अनुभव से जोड़ें। सीमा तब अर्थपूर्ण है जब वह किसी ऐसी चीज़ तक जाए जिसकी उपयोगकर्ता या व्यवसाय को परवाह है, उस तक नहीं जिसे कोई औज़ार संयोग से चार्ट करता है।
- सीमाओं के साथ योजना बनाएँ और उनकी समीक्षा करें। पूर्वानुमान बताई धारणाओं के साथ सीमा है। उसकी तुलना जो हुआ उससे करें और त्रुटि से सीखें।
- परखकर अपनी सीमाएँ जानें। क्षमता तब तक परिकल्पना है जब तक यथार्थवादी लोड टेस्ट उसकी पुष्टि न करे। मायने रखने वाले बदलावों के बाद टेस्ट दोहराएँ।
- प्रणालियों का वर्णन करें, लोगों का कभी नहीं। ये माप सेवाओं, घटकों और टीमों के हैं। वे व्यक्तियों का स्कोरकार्ड कभी नहीं हैं।
- लागत को जोखिम के विरुद्ध तौलें। अतिरिक्त क्षमता पैसे खर्च करती है, और लापता क्षमता ग्राहक। समझौता दिखाई देता बनाएँ ताकि वह चुना जाए, उसमें बहा न जाए।
मीट्रिक परिभाषाएँ
तालिका सात माप सूचीबद्ध करती है। घड़ियाँ और सीमाएँ हर सूत्र में बताई गई हैं। परसेंटाइल-आधारित माप निश्चित खिड़की उपयोग करते हैं, जो रजिस्टर में बताई जाती है, और कच्चे प्रेक्षणों या हिस्टोग्राम से गणना होते हैं, औसतों के औसत के रूप में कभी नहीं।
| मीट्रिक | परिभाषा | सूत्र | इकाई | डेटा स्रोत | ITIL प्रैक्टिस | एजाइल समकक्ष | आवृत्ति |
|---|---|---|---|---|---|---|---|
| संसाधन का उपयोग | अंतराल में संसाधन की क्षमता का हिस्सा जो उपयोग में है, अंतराल की शृंखला के ऊँचे परसेंटाइल के रूप में रिपोर्ट | व्यस्त क्षमता / कुल क्षमता, 1 से 5 मिनट के प्रति अंतराल; समीक्षा की खिड़की पर माध्यिका और 95वाँ परसेंटाइल रिपोर्ट करें; जिन रखरखाव की खिड़कियों में संसाधन ड्रेन था वे बाहर | प्रतिशत | इंफ्रास्ट्रक्चर मॉनिटरिंग और क्लाउड प्लैटफ़ॉर्म के मेट्रिक | क्षमता और प्रदर्शन प्रबंधन; मॉनिटरिंग और इवेंट प्रबंधन | पूर्णता की परिभाषा में परिचालन स्वीकृति की कसौटियाँ; SRE के संसाधन संकेत | साप्ताहिक |
| संतृप्ति | पूरी तरह उपयोग में आए संसाधन की प्रतीक्षा करता काम | कतार की लंबाई, रन कतार, लंबित अनुरोध, या थ्रॉटल किए अनुरोध, प्रति अंतराल; 95वाँ परसेंटाइल और किसी भी प्रतीक्षा वाले अंतरालों का हिस्सा रिपोर्ट करें; बिना माँग वाले अंतराल बाहर | गिनती, या अंतरालों का प्रतिशत | एप्लिकेशन और इंफ्रास्ट्रक्चर की टेलीमेट्री | क्षमता और प्रदर्शन प्रबंधन; मॉनिटरिंग और इवेंट प्रबंधन | SRE का संतृप्ति संकेत; सेवा की कतार पर कार्य-प्रगति की सीमा | साप्ताहिक |
| विलंबता का परसेंटाइल | एक उपयोगकर्ता-मुखी संचालन के अनुरोध का उत्तर देने में लगा समय, माध्यिका, p95 और p99 पर रिपोर्ट | किनारे पर अनुरोध मिलने से आखिरी बाइट भेजे जाने तक की प्रतिक्रिया का समय, प्रति सफल अनुरोध; विफल अनुरोध त्रुटियों के रूप में रिपोर्ट होते हैं, तेज़ प्रतिक्रियाओं के रूप में नहीं; चलती खिड़की पर मापें | मिलीसेकंड | लोड बैलेंसर या गेटवे के लॉग, ट्रेसिंग, रियल यूज़र मॉनिटरिंग | सेवा-स्तर प्रबंधन; क्षमता और प्रदर्शन प्रबंधन | SRE का विलंबता संकेतक और सेवा-स्तर उद्देश्य | निरंतर, साप्ताहिक समीक्षित |
| हेडरूम | वह शेष भार जो सेवा अपने उद्देश्य तोड़ने से पहले उठा सकती है | (परखा या मॉडल किया टूटने का भार - वर्तमान चरम भार) / वर्तमान चरम भार; चरम खिड़की का सबसे व्यस्त घंटा है; टूटने का भार वह भार है जिस पर टेस्ट में विलंबता का उद्देश्य पहली बार टूटता है, हार्डवेयर की अधिकतम सीमा नहीं | प्रतिशत, या वर्तमान वृद्धि पर दिन | लोड टेस्ट के परिणाम और ट्रैफ़िक टेलीमेट्री | क्षमता और प्रदर्शन प्रबंधन; सेवा-स्तर प्रबंधन | पाइपलाइन में गैर-कार्यात्मक आवश्यकताएँ और प्रदर्शन के टेस्ट | मासिक, और बड़े लॉन्च से पहले |
| पूर्वानुमान की त्रुटि | किसी अवधि के लिए पूर्वानुमानित माँग और वास्तविक माँग के बीच का अंतर | निरपेक्ष (पूर्वानुमानित चरम - वास्तविक चरम) / वास्तविक चरम, बताए क्षितिज के लिए; पूर्वानुमान क्षितिज की शुरुआत में जमा दिया जाता है और बाद में संशोधित नहीं होता; बिना पूर्वानुमान की एक-बारगी घटनाएँ सूचीबद्ध हैं, हटाई नहीं जातीं | प्रतिशत | पूर्वानुमान रजिस्टर और ट्रैफ़िक टेलीमेट्री | क्षमता और प्रदर्शन प्रबंधन; सेवा वित्तीय प्रबंधन में माँग-संबंधी नियोजन | रिलीज़ और रोडमैप का पूर्वानुमान; SRE का माँग का पूर्वानुमान | त्रैमासिक |
| क्षमता का लीड टाइम | ज़रूरत स्वीकृत होने के बाद नई क्षमता को सेवा में लाने के लिए ज़रूरी समय | घड़ी तब शुरू होती है जब क्षमता का अनुरोध अनुमोदित हो, और तब रुकती है जब क्षमता उत्पादन का ट्रैफ़िक ले; माध्यिका और 85वाँ परसेंटाइल रिपोर्ट करें; रद्द अनुरोध बाहर | दिन | ITSM औज़ार के अनुरोध रिकॉर्ड, परिवर्तन रिकॉर्ड, प्रोविज़निंग लॉग | क्षमता और प्रदर्शन प्रबंधन; सेवा अनुरोध प्रबंधन; परिवर्तन सक्षमीकरण | प्लैटफ़ॉर्म बैकलॉग मद का लीड टाइम (देखें विषय 2.2, लीड टाइम, साइकल टाइम और प्रवाह दक्षता) | त्रैमासिक |
| प्रदर्शन के टेस्ट की कवरेज | महत्वपूर्ण सेवाओं का हिस्सा जिनका हाल का यथार्थवादी लोड टेस्ट है | वे महत्वपूर्ण सेवाएँ जिनका प्रतिनिधि परिवेश और कार्यभार पर बताई आयु से नया पास हुआ लोड टेस्ट है / रजिस्टर की महत्वपूर्ण सेवाएँ; आयु की सीमा लिखी जाती है | प्रतिशत | टेस्ट के परिणाम का भंडार और सेवा रजिस्टर | क्षमता और प्रदर्शन प्रबंधन; रिलीज़ प्रबंधन | निरंतर डिलीवरी की पाइपलाइन में गैर-कार्यात्मक टेस्ट | त्रैमासिक |
साथ मिलकर ये चार प्रश्नों का उत्तर देते हैं: कितना भरा है, कितना धीमा है, कितनी जगह बची है, और उत्तर बदलने पर हम कितनी तेज़ी से प्रतिक्रिया दे सकते हैं।
सिफ़ारिशें
उपयोगकर्ता से शुरू करें, फिर संसाधन से
1. वे कुछ संचालन चुनें जिनकी उपयोगकर्ताओं को परवाह है, और उन्हें मापें। सेवा के सैकड़ों एंडपॉइंट होते हैं और मायने रखने वाली मुट्ठी भर यात्राएँ, जैसे लॉग इन करना, खोजना, भुगतान करना और विवरण डाउनलोड करना। उन्हें उत्पाद स्वामियों और ग्राहकों के साथ तय करें, और हर एक के लिए विलंबता की अपेक्षा रखें। ये स्वाभाविक रूप से सेवा-स्तर संकेतकों से जुड़ते हैं (देखें विषय 5.2, SLI, SLO और त्रुटि बजट)।
2. हर संसाधन चार्ट को संतृप्ति चार्ट से जोड़ें। अकेला प्रोसेसर का उपयोग दिखाना "यह केवल 70 प्रतिशत तक पहुँचा" के झूठे आराम को न्योता देता है। उसके बगल में कतार, प्रतीक्षा करते अनुरोध, या थ्रॉटलिंग की गिनती जोड़ें। जब संतृप्ति उपयोग के चिंताजनक दिखने से पहले दिखे, तो आपको असली बाधा मिल गई है, और वह बाधा अक्सर वह संसाधन नहीं होती जिसे आप देख रहे थे, जैसे कनेक्शन पूल, थ्रेड की सीमा, या साझेदार इंटरफ़ेस पर दर की सीमा।
3. शांत औसत की जगह व्यस्त पूँछ को तरजीह दें। दिनभर के औसत रात के सन्नाटे को दोपहर के चरम के साथ मिला देते हैं। सबसे व्यस्त अवधि देखें और सबसे बुरे अंतरालों की तिथि और कारण दर्ज करें। नियोजन का प्रश्न है कि सेवा अपने सबसे बुरे अपेक्षित घंटे पर कैसे व्यवहार करती है।
विलंबता ईमानदारी से रिपोर्ट करें
4. हर संचालन के लिए परसेंटाइल प्रकाशित करें, और खिड़की नामित करें। हर महत्वपूर्ण संचालन के लिए चलती खिड़की पर माध्यिका, p95 और p99 बताएँ, और कहें कि कौन-से अनुरोध शामिल हैं। परसेंटाइल का सर्वरों या संचालनों में औसत कभी न निकालें, क्योंकि परिणाम किसी वास्तविक उपयोगकर्ता के अनुभव से मेल नहीं खाता; इसके बजाय हिस्टोग्राम या कच्चे प्रेक्षण मिलाएँ। यदि नमूना छोटा है तो यह कहें, क्योंकि कुछ सौ अनुरोधों का p99 शोर वाली संख्या है (देखें विषय 1.6, सेवा मीट्रिक्स के लिए सांख्यिकीय साक्षरता)।
5. वहाँ भी मापें जहाँ उपयोगकर्ता है, जहाँ सर्वर है वहाँ भी। सर्वर-पक्ष की टाइमिंग नेटवर्क, ब्राउज़र और डिवाइस को छोड़ देती है। रियल यूज़र मॉनिटरिंग या सिंथेटिक जाँचें जोड़ें ताकि आप धीमे बैक एंड और धीमे अंतिम मील में अंतर कर सकें।
6. विलंबता के साथ त्रुटियाँ और टाइमआउट गिनें, उसकी जगह नहीं। जो सेवा तेज़ी से विफल होती है वह विलंबता चार्ट में तेज़ दिखती है, और जो सेवा टाइमआउट होती है वह ग़लत कारण से धीमी दिखती है। त्रुटि की दर विलंबता के परसेंटाइल के साथ रिपोर्ट करें ताकि तेज़ विफलता परिणाम की चापलूसी न कर सके।
सीमाएँ खोजें, फिर जगह छोड़ें
7. जान-बूझकर टूटने का बिंदु परखें। ऐसे लोड टेस्ट चलाएँ जो संचालनों का यथार्थवादी मिश्रण दोहराएँ, भार बढ़ाएँ, और नोट करें कि विलंबता का उद्देश्य पहली बार कहाँ टूटता है और कौन-सा संसाधन पहले संतृप्त होता है। ऐसे परिवेश पर परखें जो उत्पादन से उन मामलों में मिलता हो जो मायने रखते हैं, और लिखें कि किन मामलों में नहीं मिलता। सुरक्षित जगह की विफल जाँच सबसे सस्ती घटना है जो आपको मिलेगी (पाइपलाइन में जाँचें रखने के लिए देखें विषय 4.5, रिलीज़ और डिप्लॉयमेंट मीट्रिक्स)।
8. हेडरूम को नीति के रूप में तय करें और समझौते के रूप में उसकी समीक्षा करें। तय करें कि सेवा अपने अपेक्षित चरम पर कितना मार्जिन रखती है, और क्यों। महत्वपूर्ण ग्राहक-मुखी सेवाएँ अधिक को उचित ठहराती हैं, आंतरिक बैच सेवाएँ कम को। आँकड़ा लागत और जोखिम पर व्यावसायिक चुनाव है, इसलिए तर्क दर्ज करें और जब आउटेज की लागत या क्षमता का मूल्य बदले तो उसे फिर देखें। किसी अन्य संगठन से संख्या न उतारें।
जो लोग जानते हैं उनके साथ माँग का पूर्वानुमान लगाएँ
9. व्यवसाय से पूछें कि क्या आ रहा है, और पूर्वानुमान लिखें। मार्केटिंग अभियान, नए ग्राहक, नियामक की समय-सीमाएँ, और मौसमी घटनाएँ ट्रैफ़िक में दिखने से बहुत पहले माँग बदलती हैं। तिथि, धारणाओं, सीमा, स्वामी और हर इनपुट के स्रोत के साथ छोटा पूर्वानुमान रजिस्टर रखें। सीमा के रूप में दिया पूर्वानुमान, जैसे निम्न, अपेक्षित और उच्च परिदृश्य, एकल संख्या से अधिक ईमानदार है और कितना खरीदना है यह तय करने के लिए अधिक उपयोगी।
10. पूर्वानुमान को अंक दें और त्रुटि का उपयोग उसे सुधारने में करें। हर अवधि के बाद जमा पूर्वानुमान की तुलना पूर्वानुमान की त्रुटि का उपयोग करके जो हुआ उससे करें, और बड़ी चूकों के कारण सूचीबद्ध करें। आम कारण हैं अघोषित अभियान, उपयोगकर्ता के व्यवहार में बदलाव, और खिसकी हुई निर्भरता। उद्देश्य शून्य त्रुटि नहीं है, जो पाने योग्य नहीं, बल्कि यह सीखना है कि कौन-से इनपुट भरोसेमंद हैं, और जहाँ नहीं हैं वहाँ सीमा चौड़ी करना।
क्षमता जोड़ना आसान बनाएँ
11. सटीकता के पीछे भागने से पहले क्षमता का लीड टाइम घटाएँ। यदि नई क्षमता पहुँचने में हफ़्ते लेती है, तो आपको बहुत आगे का पूर्वानुमान लगाना और अधिक अतिरिक्त ढोना होगा। यदि मिनट लेती है, तो आप ज़रूरत के करीब चल सकते हैं। "अनुमोदित" और "ट्रैफ़िक ले रही" के बीच के चरण देखें, जैसे खरीद, अनुमोदन, प्रोविज़निंग, कॉन्फ़िगरेशन और टेस्टिंग, और सबसे लंबी प्रतीक्षाएँ पहले हटाएँ (देखें विषय 4.3, परिवर्तन सक्षमीकरण मीट्रिक्स)। ITIL की शब्दावली में यह क्षमता की रणनीति का चुनाव है, माँग से आगे, उसके साथ, या उससे पीछे चलना; सोच-समझकर चुनें, प्रति सेवा।
12. ऑटोस्केलिंग को मापे जाने वाली प्रणाली मानें। दर्ज करें कि स्केलिंग कितनी बार ट्रिगर होती है, नई क्षमता को उपयोगी बनने में कितना समय लगता है, वह कितनी बार अपने कॉन्फ़िगर किए अधिकतम तक पहुँचती है, और उसकी लागत क्या है। अपनी सीमा पर अटका ऑटोस्केलर ऐसी क्षमता योजना है जो पहले ही विफल हो चुकी है। इनकी समीक्षा लागत के दृश्य के साथ करें ताकि प्रदर्शन और खर्च पर साथ चर्चा हो (देखें विषय 7.5, सेवा लागत और इकाई अर्थशास्त्र)।
गेमिंग के रास्ते और सुरक्षा-रेखाएँ
| मीट्रिक | इसमें गेमिंग कैसे होती है | जोड़ीदार सुरक्षा-रेखा मीट्रिक या प्रथा |
|---|---|---|
| संसाधन का उपयोग | चरम छिपाने के लिए लंबे अंतरालों पर औसत निकालना; निष्क्रिय आरक्षित क्षमता को "उपयोग हुई" गिनना; केवल सबसे शांत संसाधन रिपोर्ट करना | औसत के बगल में चरम घंटे का 95वाँ परसेंटाइल; संतृप्ति का माप; दायरे के संसाधनों की सूची की सेवा के मानचित्र से समीक्षा |
| संतृप्ति | कतार की सीमा बढ़ाना ताकि कुछ भी अस्वीकृत या थ्रॉटल रिपोर्ट न हो; प्रतीक्षा को दूसरी कतार में ले जाना जो मापी नहीं जाती | उसी संचालन की विलंबता का परसेंटाइल और त्रुटि की दर; एक चरण की नहीं, आरंभ से अंत तक कतार का समय; रास्ते की सभी कतारों की समीक्षा |
| विलंबता का परसेंटाइल | केवल माध्य या माध्यिका रिपोर्ट करना; नमूने से धीमे या विफल अनुरोध छोड़ना; तेज़ आंतरिक स्थान से मापना; "आउटलायर" बाहर रखना | p95 और p99 हमेशा दिखाए जाते हैं; विलंबता के बगल में त्रुटि और टाइमआउट की दर दिखाई जाती है; रियल यूज़र मॉनिटरिंग की सर्वर-पक्ष की टाइमिंग से तुलना; कच्चे नमूने का आकार दिखाया जाता है |
| हेडरूम | नरम टेस्ट कार्यभार चुनना; उत्पादन से बड़ा परिवेश परखना; टूटने के बिंदु को हार्डवेयर की अधिकतम सीमा के रूप में परिभाषित करना | उत्पादन के ट्रैफ़िक के आकार के विरुद्ध टेस्ट कार्यभार की समीक्षा; टेस्ट और उत्पादन के अंतरों की लिखित सूची; संबंधित बदलावों के बाद हेडरूम का फिर परीक्षण |
| पूर्वानुमान की त्रुटि | बाद में पूर्वानुमान संशोधित करना; बहुत चौड़ी सीमाएँ रखना ताकि हर परिणाम "सीमा में" हो; आश्चर्य वाले महीनों को "बिना पूर्वानुमान की घटनाएँ" कहकर हटाना | रजिस्टर में जमा और तिथि वाला पूर्वानुमान; त्रुटि के साथ रिपोर्ट की सीमा की चौड़ाई; हर बाहर रखी घटना सूचीबद्ध और समीक्षित |
| क्षमता का लीड टाइम | अनुमोदन के रिकॉर्ड में देरी करके घड़ी देर से शुरू करना; क्षमता के ट्रैफ़िक लेने पर नहीं, ऑर्डर रखने पर अनुरोध बंद करना; अनुरोधों को बाँटना | अनुमोदन से ट्रैफ़िक लेने तक परिभाषित घड़ी; बंद अनुरोधों के नमूने की प्रोविज़निंग के लॉग से तुलना; दोबारा खुले अनुरोधों की गिनती |
| प्रदर्शन के टेस्ट की कवरेज | कवरेज का दावा करने के लिए मामूली टेस्ट चलाना; महत्वपूर्ण सेवाओं की सूची घटाना; पुराना पास हुआ टेस्ट बही में रखे रहना | टेस्ट की आयु और कार्यभार की यथार्थता दर्ज; महत्वपूर्ण सेवाओं की सूची की सेवा कैटलॉग और घटना के इतिहास से समीक्षा; पास के साथ विफल टेस्ट भी रिपोर्ट |
स्वस्थ पठन दिखाई देने वाले दैनिक चक्रों और हेडरूम के साथ उपयोग, ऐसी संतृप्ति जो शायद ही और संक्षिप्त रूप से दिखती है, ऐसे विलंबता के परसेंटाइल जो सबसे व्यस्त घंटों पर स्थिर या सुधरते हैं, और ऐसी पूर्वानुमान की त्रुटि दिखाता है जो ज्ञात है और धीरे-धीरे घट रही है। स्वस्थ संकेत यह है कि आश्चर्यों पर उनके कारणों के साथ चर्चा होती है। परिपूर्ण संख्याएँ संदेह जगाएँ, क्योंकि वे आमतौर पर यह अर्थ रखती हैं कि माप नरम है।
समझौते: लाभ और हानि
| तरीका | ताकत | कमज़ोरी |
|---|---|---|
| उदार हेडरूम के साथ चलना | आश्चर्यों को सोखता है; विलंबता और उपलब्धता की रक्षा करता है | अधिक लागत; अक्षमता और कमज़ोर पूर्वानुमान छिपाता है |
| तेज़ ऑटोस्केलिंग के साथ दुबला चलना | कम लागत; क्षमता माँग का अनुसरण करती है | स्केलिंग की गति और सीमाओं पर निर्भर; निर्भरताएँ स्केल नहीं हो सकतीं; घटना में तर्क करना कठिन |
| विलंबता के परसेंटाइल लक्ष्य | दर्शाते हैं कि धीमे अनुरोध कैसा लगते हैं; औसत की चालों का प्रतिरोध करते हैं | अधिक डेटा और बड़े नमूने चाहिए; कम ट्रैफ़िक वाली सेवाओं के लिए ऊँचे परसेंटाइल पर शोर वाले |
| केवल माध्य या माध्यिका विलंबता | सरल और स्थिर | वह पूँछ छिपाती है जो शिकायतें और ग्राहकों का जाना चलाती है |
| सिंथेटिक लोड टेस्ट | नियंत्रित, दोहराने योग्य, सुरक्षित | उतने ही यथार्थवादी जितना कार्यभार का मॉडल और परिवेश |
| आधार के रूप में उत्पादन की टेलीमेट्री | वास्तविक व्यवहार और वास्तविक मिश्रण दर्शाती है | सीमाएँ तभी दिखाती है जब वे टकरा चुकी हों; वर्तमान माँग से आगे प्रोब नहीं कर सकती |
| विस्तृत पूर्वानुमान मॉडल | मौसमीयता और वृद्धि पकड़ते हैं | डेटा और कौशल चाहिए; इनपुट कमज़ोर हों तो सटीकता का झूठा एहसास |
| व्यवसाय के साथ तय सरल सीमाएँ | समझाना और अद्यतन करना आसान; धारणाओं पर ध्यान | मोटे; व्यवसाय से ईमानदार इनपुट पर निर्भर |
निर्णय को सहारा देने वाली सबसे हल्की विधि चुनें। अधिकांश सेवाओं के लिए चरम घंटे के उपयोग, संतृप्ति और विलंबता के परसेंटाइल पर साप्ताहिक नज़र, बड़े बदलावों से पहले लोड टेस्ट, और त्रैमासिक पूर्वानुमान की समीक्षा पर्याप्त है। जहाँ ग़लत होने की लागत बड़ी हो वहाँ मॉडलिंग जोड़ें।
अपनी टीम के साथ चर्चा के प्रश्न
1. कौन-सी तीन उपयोगकर्ता यात्राएँ सबसे अधिक मायने रखती हैं, और उपयोगकर्ता हर एक के लिए कितने प्रतिक्रिया समय की अपेक्षा करते हैं? समूह से यात्राएँ नामित करने को कहें, फिर तुलना करें कि डैशबोर्ड क्या चार्ट करते हैं। सूत्रधार ऐसी अपेक्षा पर ज़ोर दे जो उपयोगकर्ता या ग्राहक तक अनुरेखित हो, इंजीनियरिंग की पसंद तक नहीं।
2. हमारी सेवा चट्टान के पास कहाँ है, और हमें कैसे पता? कनेक्शन पूल, थ्रेड की सीमा, या साझेदार की दर की सीमा जैसे संसाधन खोजें। पूछें कि हर एक को आखिरी बार उसके टूटने के बिंदु तक कब परखा गया था। यदि कोई नहीं जानता, तो यही पहला काम है।
3. आज हम विलंबता कैसे रिपोर्ट करते हैं, और सबसे धीमे एक प्रतिशत उपयोगकर्ता क्या कहेंगे? एक संचालन के लिए माध्य, माध्यिका, p95 और p99 साथ-साथ दिखाएँ और अंतर पर चर्चा करें। पूछें कि कौन-से अनुरोध बाहर रखे जाते हैं और क्यों, और क्या विफल अनुरोध गिने जाते हैं।
4. हम कितना हेडरूम रखते हैं, यह किसने चुना, और हमने चुनाव को आखिरी बार कब देखा? मार्जिन की लागत और सबसे व्यस्त दिन पर आउटेज की लागत पर चर्चा करें। समीक्षा की तिथि और वह प्रमाण तय करें जो मार्जिन बदलेगा।
5. हमारे पिछले तीन माँग के पूर्वानुमान कितने अच्छे थे, और हमने क्या सीखा? तिथि वाले पूर्वानुमानों की तुलना वास्तविक और बड़ी चूकों के कारणों से करें। पूछें कि व्यवसाय को क्या पता था जो संचालन को नहीं मिला। पूर्वानुमान रजिस्टर में जोड़ने के लिए एक इनपुट तय करें, जैसे मार्केटिंग कैलेंडर या लॉन्च की अनुसूची।
6. यदि हमें अगले महीने दोगुनी क्षमता चाहिए, तो हमें क्या रोकेगा? अनुरोध से उत्पादन के ट्रैफ़िक तक का हर चरण सूचीबद्ध करें और चिह्नित करें कि कहाँ प्रतीक्षा होती है। खरीद, अनुमोदन, लाइसेंस और ऐसी निर्भरताएँ शामिल करें जो स्केल नहीं होतीं। सूत्रधार सबसे लंबी ग़ैर-तकनीकी प्रतीक्षा देखे, क्योंकि वह अक्सर अनुमोदन या अनुबंध होती है। छोटा करने के लिए एक चरण पर सहमत हों और क्षमता के लीड टाइम से असर मापें।
चार दृष्टिकोण
उत्पाद और डिलीवरी टीमें
व्यस्त रास्तों को छूने वाली फ़ीचरों की स्वीकृति की कसौटियों में प्रदर्शन की अपेक्षा शामिल करें, जहाँ व्यावहारिक हो पाइपलाइन में लोड टेस्ट चलाएँ, और लॉन्च के बारे में संचालन को जल्दी बताएँ। प्रदर्शन को बाद का "हार्डनिंग" का काम मानने की आदत से सावधान रहें, जो अनियोजित काम बन जाती है (देखें विषय 2.9, संचालन-कार्य और अनियोजित कार्य)।
सेवा और संचालन टीमें
संचालन टीमें टेलीमेट्री, क्षमता योजना और सीमा आने पर प्रतिक्रिया की स्वामी हैं। उन्हें उन डैशबोर्डों पर संतृप्ति और पूँछ की विलंबता चाहिए जिन्हें वे वास्तव में इस्तेमाल करती हैं, व्यवसाय के साथ साझा पूर्वानुमान रजिस्टर, और ऐसे टेस्ट के परिणाम जिन पर भरोसा हो। उन्हें हर क्षमता-संबंधी घटना को उसके कारण के साथ दर्ज करना चाहिए (देखें विषय 4.1, समस्या प्रबंधन मीट्रिक्स, और विषय 3.4, बड़ी घटना के मीट्रिक्स)।
नेतृत्व और शासन
नेता तय करते हैं कि संगठन कितना जोखिम और लागत स्वीकार करता है, और हेडरूम की नीति वह जगह है जहाँ वह निर्णय दिखता है। हर महत्वपूर्ण सेवा के लिए विलंबता के परसेंटाइल और हेडरूम माँगें, उनके बगल में पूर्वानुमान की त्रुटि के साथ, और क्षमता के अनुरोधों को प्रमाण वाले निवेश निर्णय मानें। शासन निकायों को संगठन-व्यापी एक उपयोग-लक्ष्य का विरोध करना चाहिए, जो हर सेवा को चट्टान पर एक ही बिंदु की ओर धकेलता है।
ग्राहक और उपयोगकर्ता
ग्राहक धीमेपन को अविश्वसनीयता के रूप में महसूस करते हैं, किसी उपलब्धता की संख्या के बदलने से बहुत पहले। प्रदर्शन को बताए भार पर परसेंटाइल के रूप में बताएँ, और साझा करें कि सेवा चरम अवधियों को कैसे संभालती है (देखें विषय 5.1, SLA, OLA और XLA मीट्रिक्स, और विषय 6.2, अनुभव-स्तर समझौते)।
व्यवहार में: सेवा प्रबंधन का एक उदाहरण
एक मध्यम आकार का ऑनलाइन खुदरा विक्रेता स्टोरफ़्रंट, भुगतान सेवा और ऑर्डर सेवा चलाता है, हर एक का स्वामी उत्पाद टीम है, और साझा इंफ्रास्ट्रक्चर प्लैटफ़ॉर्म टीम देती है। इस उदाहरण की सभी संख्याएँ दृष्टांत के लिए हैं।
प्लैटफ़ॉर्म टीम की साप्ताहिक समीक्षा स्टोरफ़्रंट की खोज को 180 मिलीसेकंड की माध्य विलंबता और 420 मिलीसेकंड के p95 के साथ दिखाती है, दोनों उद्देश्य के भीतर, और चरम घंटे के 95वें परसेंटाइल पर प्रोसेसर का उपयोग 58 प्रतिशत। नियोजित सेल से तीन सप्ताह पहले सहायता की प्रमुख रिपोर्ट करती हैं कि शाम के अभियानों के दौरान ग्राहक कहते हैं साइट "रेंगती" है। डैशबोर्ड हरा है।
टीम पिछली सेल के सबसे व्यस्त घंटे पर खोज का p99 देखती है और 3.1 सेकंड पाती है, जबकि p99 का उद्देश्य 1.5 सेकंड है। संतृप्ति बाकी कहानी कहती है: उत्पाद के डेटाबेस के कनेक्शन पूल में चरम के दौरान एक-मिनट के 14 प्रतिशत अंतरालों में प्रतीक्षा करते अनुरोध दिखते हैं, जबकि प्रोसेसर का उपयोग कभी 60 प्रतिशत से ऊपर नहीं गया। बाधा कभी प्रोसेसर नहीं था। वह पूल की सीमा थी जो तब रखी गई थी जब ट्रैफ़िक आज का एक-तिहाई था।
उत्पाद स्वामी और प्लैटफ़ॉर्म लीड पिछले साल के चरम के 1.5 गुना पर लोड टेस्ट चलाते हैं, संचालनों का उत्पादन वाला मिश्रण इस्तेमाल करके। टेस्ट दिखाता है कि p99 का उद्देश्य पिछले साल के चरम के 1.15 गुना पर टूटता है, इसलिए हेडरूम 15 प्रतिशत है जबकि ग्राहक-मुखी सेवाओं के लिए नीति 40 प्रतिशत की है। मार्केटिंग कैलेंडर शुरुआती दिन पर पिछले साल के चरम के 1.6 गुना माँग सुझाता है। रजिस्टर में जमा पुराने पूर्वानुमान ने सीमा 1.2 से 1.4 रखी थी, और पिछली सेल के विरुद्ध त्रुटि 22 प्रतिशत थी, अधिकतर एक अघोषित ईमेल अभियान से।
निर्णय लॉग में दर्ज निर्णय के चार भाग हैं। पहला, पूल की सीमा बढ़ाएँ और रीड रेप्लिका जोड़ें, और फिर परखें। दूसरा, रिलीज़ की प्रक्रिया में सेल-तैयारी की जाँच-सूची जोड़ें ताकि अभियान कम से कम छह सप्ताह पहले पूर्वानुमान रजिस्टर में पहुँचें। तीसरा, साप्ताहिक समीक्षा में p99 और पूल की संतृप्ति जोड़ें। चौथा, पूरे साल की अतिरिक्त क्षमता की जगह निर्धारित स्केलिंग का उपयोग करके, सेल की खिड़की के लिए अतिरिक्त क्षमता की लागत पर वित्त के साथ सहमत हों।
बदलावों के बाद दूसरा टेस्ट दिखाता है कि p99 का उद्देश्य पिछले साल के चरम के 1.8 गुना तक टिकता है। गेमिंग का जोखिम समीक्षा के दौरान सामने आया। एक ठेकेदार ने विलंबता की रिपोर्ट से 5 सेकंड से धीमे अनुरोध बाहर रखने का "त्वरित लाभ" प्रस्तावित किया था, यह कहकर कि वे आउटलायर हैं। टीम ने इनकार किया: बाहर रखे अनुरोध ठीक वही ग्राहक थे जिन्होंने शिकायत की। सुरक्षा-रेखा हर विलंबता के परसेंटाइल के बगल में त्रुटि और टाइमआउट की दरें रखना और नमूने का आकार दर्ज करना थी। सेल के दौरान p99 1.2 सेकंड पर चरम पर पहुँचता है, पूल की संतृप्ति 1 प्रतिशत अंतरालों से नीचे रहती है, और पूर्वानुमान की त्रुटि 9 प्रतिशत है, जो शेष चूक के कारण के साथ रजिस्टर में दर्ज है।
एजाइल, AI, स्वचालन और विश्लेषण
एजाइल
उत्पाद के हितधारकों के साथ छोटे चक्रों में क्षमता की योजना बनाएँ, पूर्वानुमानों को ऐसी सीमाओं के रूप में लेकर जो डेटा के साथ अद्यतन होती हैं। सावधानी यह है कि मुख्य संख्या की रक्षा के लिए अत्यधिक प्रावधान पैसे बर्बाद करता है।
AI
AI कार्यभार, जैसे मॉडल का अनुमान (inference), की माँग परिवर्तनशील और कभी-कभी महँगी होती है, और AI फ़ीचर उपयोग के पैटर्न तेज़ी से बदल सकते हैं। AI पथों के लिए विलंबता के परसेंटाइल और प्रति अनुरोध लागत ट्रैक करें, और उन्हें उत्तर की गुणवत्ता से जोड़ें। सावधानी यह है कि गति के लिए ट्यूनिंग उत्तर की गुणवत्ता घटा सकती है, इसलिए दोनों मापें।
स्वचालन
उपयोग और विलंबता अपने-आप जुटाएँ और सीमाओं के भीतर स्केलिंग स्वचालित करें। स्केलिंग को दोलन और उसके जोड़े खर्च पर मापें। सावधानी यह है कि ऑटोस्केलिंग सीमाओं तक पहुँचने तक संतृप्ति छिपाती है, इसलिए केवल वर्तमान भार नहीं, हेडरूम ट्रैक करें।
विश्लेषण
विलंबता का परसेंटाइल और हेडरूम पूर्वानुमान की सीमाओं और पूर्वानुमान की त्रुटि के इतिहास के साथ दिखाएँ। यह जिस निर्णय को सूचित करता है वह है क्षमता कब जोड़नी है। सावधानी यह है कि छोटे इतिहास से किए पूर्वानुमान नाज़ुक होते हैं, इसलिए अंतराल बताएँ।
क्षेत्र का नज़रिया
स्टार्टअप। ट्रैफ़िक छोटा है और वृद्धि अनिश्चित, इसलिए विस्तृत माप से सस्ते माप बेहतर हैं। कमाई कराने वाली दो-तीन यात्राओं के लिए विलंबता के परसेंटाइल ट्रैक करें, डेटाबेस पर संतृप्ति देखें, और लॉन्च से पहले सरल लोड टेस्ट चलाएँ। खर्च का अलर्ट लगाएँ ताकि बग या ट्रैफ़िक की उछाल बिल न बन जाए।
छोटा व्यवसाय। सेवाएँ अक्सर होस्ट की या खरीदी हुई होती हैं, इसलिए क्षमता आपूर्तिकर्ता का विषय है। आपूर्तिकर्ता से प्रदर्शन और क्षमता की रिपोर्टें लिखित में माँगें, जानें कि अनुबंध चरम अवधियों के बारे में क्या कहता है, और कुछ सिंथेटिक जाँचों से ग्राहक का दृश्य देखें। उस एक प्रणाली पर हेडरूम ट्रैक करें जिसके बिना व्यवसाय नहीं चल सकता।
उद्यम। कई सेवाएँ इंफ्रास्ट्रक्चर साझा करती हैं, इसलिए क्षमता की समस्याएँ ग़लत जगह दिखती हैं। ऐसे सेवा मानचित्र में निवेश करें जो सेवाओं को उनके उपयोग किए घटकों से जोड़े, व्यावसायिक इकाइयों के साथ साझा पूर्वानुमान की प्रक्रिया, और टीमों में विलंबता के परसेंटाइल की साझा परिभाषाओं में। सेवा के महत्व के अनुसार हेडरूम की नीति तय करें।
सरकार और सार्वजनिक क्षेत्र। माँग कानून से तय समय-सीमाओं से आकार लेती है, जैसे कर दाखिल करने की तिथियाँ, लाभ के दावे और चुनाव, और उन तिथियों पर विफलता सार्वजनिक होती है। पूर्वानुमान को वैधानिक कैलेंडर का उपयोग करना चाहिए, और चरम के लिए क्षमता का अनुबंध महीनों पहले करना पड़ सकता है। खरीद के लीड टाइम क्षमता के लीड टाइम को लंबा करते हैं, इसलिए उन्हें मापें और उनके इर्द-गिर्द योजना बनाएँ। सेवा के प्रदर्शन की सार्वजनिक रिपोर्टों को परसेंटाइल और भार की शर्तें बतानी चाहिए (देखें विषय 8.5, विनियमित और सरकारी रिपोर्टिंग)।
व्यावसायिक औचित्य: प्रेरणाएँ, ROI और TCO
लागत के चार भाग हैं। पहला इंस्ट्रूमेंटेशन है: टेलीमेट्री और उसका भंडारण। दूसरा टेस्टिंग है: प्रतिनिधि परिवेश और कार्यभार के मॉडल जिन्हें बनाए रखना पड़ता है। तीसरा नियोजन की दिनचर्या है: पूर्वानुमान रजिस्टर रखना और हर तिमाही त्रुटि की समीक्षा। चौथी अतिरिक्त क्षमता है, जो अक्सर सबसे बड़ी लागत है और जिसे स्पष्ट करना सबसे अधिक योग्य है।
प्रतिफल कम क्षमता-संबंधी घटनाओं, कब खरीदना है और कब नहीं इस पर बेहतर निर्णयों, और उस क्षमता पर बचे खर्च से आता है जिसे डेटा अनावश्यक दिखाता है। बचत के प्रतिशत का वादा पहले से न करें। इसके बजाय अपना पैटर्न मापें: प्रति तिमाही क्षमता के कारण वाली घटनाओं की संख्या, चरम का वह हिस्सा जिसमें आपातकालीन कार्रवाई चाहिए थी, सहमत हेडरूम की नीति के सापेक्ष निष्क्रिय क्षमता पर खर्च, और पूर्वानुमान की त्रुटि का रुझान। Google की SRE पुस्तक विश्वसनीयता को आर्थिक निर्णय मानती है।
स्वामित्व की कुल लागत में लोग और टेस्ट का परिवेश हावी हैं। छोटी टीम मौजूदा मॉनिटरिंग, साप्ताहिक समीक्षा, और सबसे महत्वपूर्ण यात्रा के लिए एक लोड टेस्ट से शुरू कर सकती है।
प्रतिरूप-विरोधी और जाल
- औसत उपयोग को क्षमता की कहानी के रूप में रिपोर्ट करना। औसत चरम और चट्टान छिपाता है। चरम घंटे का ऊँचा परसेंटाइल और संतृप्ति का माप रिपोर्ट करें।
- कार्यकारी डैशबोर्ड पर माध्य विलंबता। शिकायतें पूँछ चलाती है। त्रुटि की दरों और नमूने के आकार के साथ p95 और p99 दिखाएँ।
- विलंबता से "आउटलायर" बाहर रखना। सबसे धीमे अनुरोध असली उपयोगकर्ता हैं। उन्हें रखें, और डेटा छाँटने की जगह कारण की जाँच करें।
- सर्वरों में परसेंटाइल का औसत निकालना। परिणाम किसी का वर्णन नहीं करता। परसेंटाइल की गणना से पहले हिस्टोग्राम या कच्चे प्रेक्षण मिलाएँ।
- केवल पिछले साल के ट्रैफ़िक से बनी क्षमता योजनाएँ। माँग व्यावसायिक घटनाओं पर निर्भर करती है। व्यावसायिक कैलेंडर शामिल करें और पूर्वानुमान की त्रुटि की समीक्षा करें।
- उत्पादन से भिन्न परिवेश में परखना। पास होने वाला परिणाम झूठा भरोसा देता है। अंतर दर्ज करें और उनके लिए सुधार करें, या सुरक्षित रूप से उत्पादन में परखें।
- इंजीनियरों या टीमों को रैंक करने के लिए क्षमता के मीट्रिक्स का उपयोग। उपयोग और विलंबता प्रणालियों का वर्णन करते हैं। उनकी समीक्षा सेवा के डिज़ाइन और माँग के संदर्भ में करें, और व्यक्तियों को तस्वीर से बाहर रखें।
परिपक्वता मॉडल
| आयाम | 1 आरंभ | 2 विकास | 3 मानकीकरण | 4 प्रबंधन | 5 समन्वयन |
|---|---|---|---|---|---|
| उपयोग, संतृप्ति और विलंबता का माप | कुछ सर्वरों के औसत; ऊँचे प्रोसेसर उपयोग पर अलर्ट | कुछ टीमें विलंबता के परसेंटाइल और कतारें चार्ट करती हैं | साझा परिभाषाएँ: हर मुख्य संचालन के परसेंटाइल, उपयोग के बगल में संतृप्ति, लिखी हुई खिड़कियाँ | उद्देश्यों के विरुद्ध रुझान, त्रुटि की दरों से जुड़े, साप्ताहिक समीक्षित | आपूर्तिकर्ताओं और ग्राहकों के साथ परिभाषाएँ संयुक्त रूप से संशोधित; उपयोगकर्ता-पक्ष और सर्वर-पक्ष के दृश्य मिलाए गए |
| सीमाएँ और हेडरूम | विफलता तक सीमाएँ अज्ञात | बड़े लॉन्च से पहले कभी-कभार लोड टेस्ट | लिखी हेडरूम की नीति के विरुद्ध महत्वपूर्ण सेवाओं पर लोड टेस्ट | प्रति सेवा हेडरूम ट्रैक और संबंधित बदलावों के बाद फिर परखा | लागत, जोखिम और घटना के डेटा से टीमों और आपूर्तिकर्ताओं में हेडरूम की नीति समायोजित |
| पूर्वानुमान | अनुरोध के समय तदर्थ अनुमान | अलग टीमें पूर्वानुमान अपने दिमाग़ या स्प्रेडशीट में रखती हैं | सीमाओं और स्वामियों के साथ साझा पूर्वानुमान रजिस्टर, व्यावसायिक कैलेंडर से पोषित | पूर्वानुमान की त्रुटि को अंक दिए और चूकों के कारणों के साथ समीक्षित | व्यवसाय और आपूर्तिकर्ताओं के साथ बने पूर्वानुमान; इनपुट नियमित रूप से सुधारे जाते हैं |
| क्षमता की डिलीवरी | घटना के बाद क्षमता जोड़ी जाती है | आम मामलों के लिए मानक अनुरोध | अनुमोदन से उत्पादन के ट्रैफ़िक तक दर्ज रास्ता, क्षमता का लीड टाइम मापा हुआ | वित्तपोषित सुधार से सबसे लंबी प्रतीक्षाएँ लक्षित | नीति के भीतर क्षमता अपने-आप जोड़ी जाती है; स्केलिंग का व्यवहार और लागत साथ समीक्षित |
जाँच-सूची
- महत्वपूर्ण उपयोगकर्ता यात्राएँ नामित हैं, हर एक की विलंबता की अपेक्षा उसके स्वामी से सहमत है।
- विलंबता प्रति संचालन माध्यिका, p95 और p99 के रूप में रिपोर्ट होती है, खिड़की और नमूने का आकार बताकर।
- परसेंटाइल हिस्टोग्राम या कच्चे प्रेक्षणों से गणना होते हैं, सर्वरों में औसत कभी नहीं।
- हर उपयोग के चार्ट के बगल में संतृप्ति का चार्ट है।
- हर विलंबता के परसेंटाइल के बगल में त्रुटि और टाइमआउट की दरें दिखाई जाती हैं।
- हर महत्वपूर्ण सेवा का लोड टेस्ट है, कार्यभार और परिवेश के अंतर लिखे हुए।
- सेवा के महत्व के अनुसार हेडरूम की नीति है, तर्क दर्ज किए हुए।
- तिथि वाला पूर्वानुमान रजिस्टर सीमाएँ, धारणाएँ और स्वामी रखता है, और व्यावसायिक कैलेंडर से पोषित है।
- पूर्वानुमान की त्रुटि की हर तिमाही समीक्षा होती है, बड़ी चूकों के कारण दर्ज किए जाते हैं।
- क्षमता का लीड टाइम अनुमोदन से ट्रैफ़िक लेने तक मापा जाता है।
- ऑटोस्केलिंग की सीमाओं, विलंब और लागत की समीक्षा सेवा के स्वामी के साथ होती है।
- कोई क्षमता या प्रदर्शन का माप व्यक्ति के अनुसार रिपोर्ट नहीं होता।
AI प्रॉम्प्ट
छिपे विकृति के लिए विलंबता की रिपोर्ट की समीक्षा करें।
Here is how we report latency for [operation or service]: [description of the
measurement point, the window, the statistics shown, and which requests are
included or excluded]. Our users care about [user journey or expectation].
Identify ways this report could understate the experience of the slowest users,
such as averaging, exclusion rules, sampling, or measurement location. Suggest
what to show instead and what additional data I would need. Do not invent
benchmark values or thresholds; ask me for the ones you need. List your
assumptions.
सेवा के लिए लोड टेस्ट की योजना का मसौदा बनाएँ।
I need a load test plan for [service name]. Its main user journeys are
[journeys], its dependencies are [dependencies], and its production traffic mix
is roughly [description of mix]. The test environment differs from production
in these ways: [differences]. Propose a workload model, a ramp pattern, the
measures to record (latency percentiles, error rate, utilization, saturation),
the stop conditions, and the questions the results should answer. Do not
assume tool features or invent target values. List your assumptions and the
risks of the test.
व्यवसाय के साथ माँग के पूर्वानुमान की रचना करें।
I am preparing a capacity forecast for [service] covering [horizon]. Known
inputs: [historical traffic description], [business events and dates], and
[planned changes]. Draft a forecast register layout with low, expected, and high
cases, the assumptions behind each, the owner of each input, and a review
routine that scores forecast error. Suggest questions to ask [business
stakeholders]. Do not invent growth rates or seasonal factors. List your
assumptions.
लक्षणों से असली बाधा खोजें।
A service shows these symptoms during peak load: [symptoms, for example slow
p99, queue growth, error types]. Utilization data: [summary of resource
utilization]. Saturation data: [summary of queues, pools, throttling].
Architecture notes: [short description]. List the resources and limits that
could be the constraint, the evidence that would distinguish between them, and
the cheapest next test for each. Do not claim a cause that the data does not
support. List your assumptions.
AI स्किल
- Service Management Metrics skill: क्षमता या प्रदर्शन के माप को परिभाषित करने वाला विषय, उसकी घड़ियाँ, और उसके बगल में रहने वाली सुरक्षा-रेखा खोजने के लिए उपयोग करें।
- Service Management Metrics maintainer skill: यह जाँचने के लिए उपयोग करें कि संपादित क्षमता या प्रदर्शन का विषय हर मीट्रिक को गेमिंग के रास्ते और सुरक्षा-रेखा से जोड़े रखता है।
मुख्य निष्कर्ष
- उपयोग के साथ संतृप्ति मापें, क्योंकि उपयोगकर्ता कतार महसूस करते हैं, प्रतिशत नहीं।
- विलंबता को प्रति संचालन परसेंटाइल के रूप में, त्रुटि की दरों और नमूने के आकार के साथ, रिपोर्ट करें, और परसेंटाइल का औसत कभी न निकालें।
- सीमाएँ परखकर खोजें और हेडरूम को दर्ज नीति के रूप में तय करें जो लागत को जोखिम के विरुद्ध तौलती है।
- माँग का पूर्वानुमान व्यवसाय के साथ सीमाओं के रूप में लगाएँ, पूर्वानुमान को जमा दें, और त्रुटि से सीखें।
- क्षमता का लीड टाइम घटाएँ और ऑटोस्केलिंग को मापें, ताकि क्षमता ज़रूरत का अनुसरण करे।
- सेवाओं और प्रणालियों का वर्णन करें, लोगों का कभी नहीं, और परिपूर्ण दिखती संख्याओं को माप जाँचने का संकेत मानें।
संदर्भ और आगे का अध्ययन
- Beyer, B., Jones, C., Petoff, J., and Murphy, N. R. (eds.), Site Reliability Engineering: How Google Runs Production Systems, O'Reilly Media, 2016, https://sre.google/sre-book/table-of-contents/
- Google, "Monitoring Distributed Systems," chapter in Site Reliability Engineering, 2016, https://sre.google/sre-book/monitoring-distributed-systems/
- Beyer, B., Murphy, N. R., Rensin, D. K., Kawahara, K., and Thorne, S. (eds.), The Site Reliability Workbook: Practical Ways to Implement SRE, O'Reilly Media, 2018, https://sre.google/workbook/table-of-contents/
- Dean, J., and Barroso, L. A., "The Tail at Scale," Communications of the ACM, 56(2), 2013.
- Little, J. D. C., "A Proof for the Queuing Formula: L = λW," Operations Research, 9(3), 1961.
- Gregg, B., Systems Performance: Enterprise and the Cloud, 2nd edition, Addison-Wesley, 2020.
- Allspaw, J., The Art of Capacity Planning, O'Reilly Media, 2008.
- Gunther, N. J., Guerrilla Capacity Planning, Springer, 2007.
- Forsgren, N., Humble, J., and Kim, G., Accelerate: The Science of Lean Software and DevOps, IT Revolution, 2018.
- AXELOS (now PeopleCert), ITIL 4 Foundation and the ITIL 4 practice guide for capacity and performance management, 2019 onwards.
- Wikipedia, Capacity planning.
- Wikipedia, Site reliability engineering.
- Wikipedia, Latency (engineering).
- Wikipedia, Throughput.
- Wikipedia, Queueing theory.
- Wikipedia, Little's law.
- Wikipedia, Load testing.
- Wikipedia, Percentile.
- Wikipedia, Tail latency.
- Wikipedia, Forecasting.
- Wikipedia, Seasonality.
- Wikipedia, Autoscaling.