अवलोकन और प्रेरणा

AI संगठन में कई दरवाज़ों से आता है। कोई टीम कोडिंग सहायक अपनाती है। कोई विक्रेता पहले से उपयोग हो रहे उत्पाद में जनरेटिव फ़ीचर जोड़ता है। कोई कर्मचारी दस्तावेज़ सार्वजनिक औज़ार में चिपकाता है। कोई विभाग अनुरोधों को स्कोर करने का मॉडल बनाता है। हर एक AI का उपयोग है जिसके अपने लाभ और जोखिम हैं, और कम ही एक जगह दिखाई देते हैं। शासन संरचनाओं, नीतियों और प्रथाओं का सेट है जो उन उपयोगों को ज्ञात, जवाबदेह और पर्याप्त सुरक्षित बनाता है। जोखिम के माप बताते हैं कि शासन काम करता है या नहीं।

ITIL के पास बुनियादी तत्व हैं: सेवा मूल्य प्रणाली का शासन, जोखिम प्रबंधन, परिवर्तन सक्षमीकरण, सूचना सुरक्षा प्रबंधन, आपूर्तिकर्ता प्रबंधन और सतत सुधार। एजाइल और DevOps की कार्य-पद्धतियाँ छोटे, नियंत्रित, पलटने योग्य बदलाव और पाइपलाइन में स्वचालित जाँचों की आदत देती हैं। AI शासन को अलग ब्रह्मांड नहीं चाहिए। उसे ये प्रथाएँ उन चीज़ों पर लागू चाहिए जो पारंपरिक सॉफ़्टवेयर से भिन्न व्यवहार करती हैं।

AI में क्या भिन्न है?

  • व्यवहार सांख्यिकीय है और कोड बदले बिना बदल सकता है। विक्रेता के अपडेट, इनपुट में बदलाव, या प्रॉम्प्ट में बदलाव के बाद मॉडल भिन्न व्यवहार कर सकता है। उत्पादन में उसे जो डेटा दिखता है वह उस डेटा से भटक सकता है जिस पर परखा गया था, एक घटना जो मशीन लर्निंग में ड्रिफ़्ट के नाम से जानी जाती है। प्रणाली चुपचाप बिगड़ सकती है।
  • आउटपुट पूरी तरह पूर्वानुमेय नहीं हैं। परीक्षण हर इनपुट कवर नहीं कर सकता, इसलिए मूल्यांकन प्रमाण से नहीं, नमूने और लक्षित परीक्षणों से होता है। प्रणालियाँ ऐसे तरीकों से विफल हो सकती हैं जिनका उनके निर्माताओं ने अनुमान नहीं लगाया।
  • हानियाँ फैली और असमान हो सकती हैं। एल्गोरिदम का पक्षपात (algorithmic bias) व्यवस्थित त्रुटि है जो कुछ समूहों के लिए अनुचित परिणामों की ओर ले जाती है। वह डेटा, डिज़ाइन, या उपयोग से उठ सकती है, और कुल सटीकता के आँकड़ों में न दिखे।
  • नई हमले की सतहें दिखती हैं। प्रॉम्प्ट इंजेक्शन (prompt injection) ऐसा हमला है जिसमें इनपुट डेटा में छिपे निर्देश भाषा मॉडल को अनपेक्षित व्यवहार के लिए हेरफेर करते हैं। मॉडलों को डेटा उजागर करने या ऐसी कार्रवाइयाँ करने के लिए प्रेरित किया जा सकता है जिनका उनके स्वामियों ने इरादा नहीं किया।
  • आपूर्तिकर्ताओं पर निर्भरता गहरी है। कई AI क्षमताएँ बाहरी प्रदाताओं से आती हैं, इस पर सीमित दृश्य के साथ कि वे कैसे बनी या बदली जाती हैं। आपूर्तिकर्ता के माप अधिक मायने रखते हैं (देखें विषय 8.4, आपूर्तिकर्ता और अनुबंध मीट्रिक्स)।
  • नियम उभर रहे हैं और जगह के अनुसार भिन्न हैं। AI पर कानून, मानक और मार्गदर्शन तेज़ी से विकसित हो रहे हैं। यूरोपीय संघ का आर्टिफ़िशियल इंटेलिजेंस एक्ट (Artificial Intelligence Act) चरणों में लागू होने वाले दायित्वों के साथ जोखिम-आधारित तरीका अपनाता है, और अन्य क्षेत्राधिकार अलग रास्ते ले रहे हैं। AI प्रबंधन प्रणालियों पर ISO/IEC 42001 और NIST AI रिस्क मैनेजमेंट फ़्रेमवर्क जैसे मानक रचनाएँ देते हैं। इस विषय में विशिष्ट नियमों के बारे में कथन अक्टूबर 2026 तक के हैं और उन्हें फिर जाँचा जाना चाहिए, और आपके दायित्वों का मार्गदर्शन कानूनी सलाह करे। व्यापक क्षेत्र को अलग-अलग तरह से ज़िम्मेदार AI (responsible AI) या भरोसेमंद AI के रूप में वर्णित किया जाता है, और कानून को AI से कैसे बर्ताव करना चाहिए का प्रश्न कृत्रिम बुद्धि के विनियमन (regulation of artificial intelligence) का विषय है।

शासन दो विपरीत तरीकों से विफल हो सकता है। वह इतना भारी हो सकता है कि टीमें उससे बचें, और AI का उपयोग शैडो IT (shadow IT) के रूप में भूमिगत हो जाए। या वह काग़ज़ी अभ्यास हो सकता है, ऐसी नीति और रजिस्टर के साथ जो प्रथा को नहीं दर्शाते। एजाइल उद्देश्य मध्य मार्ग सुझाते हैं: नियम बनाने में हितधारकों की निरंतर भागीदारी, कम जोखिम के उपयोगों के लिए छोटे और तेज़ अनुमोदन, जहाँ हानि संभव है वहाँ गहरी जाँच, और अनुभव बढ़ने के साथ नियंत्रणों का निरंतर सुधार। स्पष्ट सीमाओं वाले प्रेरित लोग, जिन पर उनके भीतर विवेक से काम करने का भरोसा किया जाता है, समस्याएँ रिपोर्ट करेंगे। जो लोग दंड से डरते हैं वे नहीं करेंगे।

गुडहार्ट का नियम (Goodhart's law) की सुरक्षा-रेखा शासन के मापों पर लागू होती है: जब "दर्ज AI उपयोगों का प्रतिशत" लक्ष्य हो, तो रजिस्टर ऐसी प्रविष्टियों से भरते हैं जिन्हें कोई नहीं पढ़ता, और वास्तविक उपयोग नज़र से बाहर रहते हैं (देखें विषय 1.2, गुडहार्ट का नियम और मीट्रिक्स का मनोविज्ञान)।

यह विषय भाग 8 में जोखिम, अनुपालन और सुरक्षा के विषयों, और इस भाग के पहले के विषयों पर बनता है।

मुख्य सिद्धांत

  • जानें कि AI कहाँ उपयोग होता है। उपयोगों का रजिस्टर, जिनमें उत्पादों में अंतर्निहित और कर्मचारी स्वयं अपनाए जाने वाले भी शामिल हैं, बुनियाद है।
  • जाँच को जोखिम से मिलाएँ। कम जोखिम के उपयोगों के लिए हल्की, परिणामकारी उपयोगों के लिए गहरी।
  • मॉडल और प्रॉम्प्ट के बदलावों को परिवर्तन मानें। उन्हें परीक्षण, जोखिम के अनुपात में अनुमोदन, और पलटने की क्षमता चाहिए।
  • उपयोग से पहले और उपयोग के दौरान मूल्यांकन करें। यथार्थवादी मामलों पर परखें, और उत्पादन में परखते रहें।
  • सार्थक मानवीय निगरानी रखें। व्यक्ति को समझने, प्रश्न करने और अधिलेखित करने में सक्षम होना चाहिए, और ऐसा करने का समय और अधिकार होना चाहिए।
  • दोष के बिना घटनाओं से सीखें। AI की विफलताएँ नई हैं, और रिपोर्टिंग ही संगठन के सीखने का तरीका है।
  • सुरक्षित मामलों के लिए अनुमोदन तेज़ करें। धीमा शासन उपयोग को नज़र से बाहर धकेलता है।

मीट्रिक परिभाषाएँ

मीट्रिक परिभाषा सूत्र इकाई डेटा स्रोत ITIL प्रैक्टिस एजाइल समकक्ष आवृत्ति
AI के उपयोग के रजिस्टर की कवरेज स्वतंत्र तरीकों से मिले AI उपयोगों का हिस्सा जो स्वामी और जोखिम की श्रेणी के साथ रजिस्टर में हैं स्वामी और जोखिम की श्रेणी के साथ रजिस्टर के उपयोग / स्वतंत्र खोज (खरीद, खर्च, पहचान, नेटवर्क और कर्मचारी की रिपोर्टों) से मिले उपयोग प्रतिशत रजिस्टर, खरीद और खर्च का डेटा, पहचान के लॉग, सर्वेक्षण शासन; IT परिसंपत्ति प्रबंधन; जोखिम प्रबंधन दिखाई देता काम और स्पष्ट स्वामित्व त्रैमासिक
जोखिम के आकलन की सामयिकता मध्यम और उच्च जोखिम के उपयोगों का हिस्सा जिनका आवश्यक चक्र के भीतर जोखिम का आकलन है चक्र के भीतर आँके उपयोग / मध्यम और उच्च जोखिम के उपयोग प्रतिशत जोखिम के आकलन जोखिम प्रबंधन; सूचना सुरक्षा प्रबंधन जोखिमों पर नियमित चिंतन त्रैमासिक
परिवर्तन नियंत्रण की कवरेज उत्पादन में मॉडलों, प्रॉम्प्ट, औज़ारों और डेटा स्रोतों के बदलावों का हिस्सा जो आवश्यक परीक्षणों के साथ परिवर्तन नियंत्रण से गुज़रे जोखिम के अनुपात में परिवर्तन के रिकॉर्ड, परीक्षण और अनुमोदन वाले बदलाव / पहचाने बदलाव प्रतिशत संस्करण के इतिहास और विक्रेता के रिलीज़ नोट से तुलना किए परिवर्तन के रिकॉर्ड परिवर्तन सक्षमीकरण; रिलीज़ और डिप्लॉयमेंट प्रबंधन छोटे, नियंत्रित, पलटने योग्य बदलाव मासिक
मूल्यांकन की सामयिकता दायरे के उत्पादन के उपयोगों का हिस्सा जिनका वर्तमान मूल्यांकन (सटीकता, सुरक्षा, और जहाँ प्रासंगिक निष्पक्षता) है और परिणाम सहनशीलता के भीतर हैं चक्र के भीतर मूल्यांकन वाले और स्वीकार्य परिणामों वाले उपयोग / दायरे के उत्पादन के उपयोग प्रतिशत मूल्यांकन के रिकॉर्ड गुणवत्ता आश्वासन; जोखिम प्रबंधन व्यवहार के लिए पूर्णता की परिभाषा त्रैमासिक
मानवीय निगरानी के प्रमाण की दर नमूने के परिणामकारी आउटपुट या निर्णयों का हिस्सा जिनकी दर्ज, सारगर्भित मानवीय समीक्षा है दर्ज समीक्षा वाली नमूने की मदें जो परिणाम बदल सकती थी / नमूने की मदें प्रतिशत नमूने के निर्णय के रिकॉर्ड जोखिम प्रबंधन; शासन रिलीज़ से पहले समीक्षा मासिक
AI घटना की दर और रोकने का समय AI से जुड़ी घटनाएँ (हानिकारक आउटपुट, डेटा का उजागर होना, असुरक्षित कार्रवाई) प्रति उपयोग और उन्हें रोकने का समय प्रति तिमाही प्रति उत्पादन उपयोग घटनाएँ; पहचान से रोकने तक के घंटों की माध्यिका और 85वाँ परसेंटाइल घटनाएँ; घंटे AI टैग वाले घटना के रिकॉर्ड घटना प्रबंधन; सूचना सुरक्षा प्रबंधन दोष-रहित प्रतिक्रिया और सीखना त्रैमासिक
आपूर्तिकर्ता की AI की उचित जाँच की सामयिकता महत्वपूर्ण सेवाओं में AI फ़ीचर देने वाले आपूर्तिकर्ताओं का हिस्सा जिनका AI-विशिष्ट आकलन सामयिक है वर्तमान AI आकलन वाले आपूर्तिकर्ता / AI फ़ीचर वाले महत्वपूर्ण आपूर्तिकर्ता प्रतिशत आपूर्तिकर्ता के आकलन आपूर्तिकर्ता प्रबंधन; जोखिम प्रबंधन निर्भरताओं की नियमित समीक्षा त्रैमासिक

रजिस्टर में "AI का उपयोग" व्यापक रूप से परिभाषित करें: जो मॉडल आप बनाते हैं, जो सेवाएँ खरीदते हैं, उत्पादों के भीतर की फ़ीचर, और जो औज़ार कर्मचारी उपयोग करते हैं। जोखिम की श्रेणियाँ और चक्र नीति में तय होते हैं। रजिस्टर की कवरेज रजिस्टर के विरुद्ध नहीं, स्वतंत्र खोज के विरुद्ध मापी जाती है। परिवर्तन नियंत्रण की कवरेज को बदलाव पहचानने का तरीका चाहिए: संस्करण नियंत्रण, विक्रेता की सूचनाएँ, कॉन्फ़िगरेशन की निगरानी। मानवीय निगरानी के प्रमाण को माँगना चाहिए कि समीक्षा परिणाम बदल सकती थी, यह नहीं कि बटन क्लिक हुआ। घटना की दरें उपयोगों और प्रणालियों का वर्णन करती हैं और लोगों को रेट करने में उपयोग नहीं होतीं।

सिफ़ारिशें

जानें और वर्गीकृत करें

1. रजिस्टर पूछकर के साथ खोजकर भी बनाएँ। सर्वेक्षण और नीति से शुरू करें, फिर खरीद और खर्च के रिकॉर्ड, पहचान और पहुँच के लॉग, नेटवर्क और क्लाउड बिलिंग के डेटा, और विक्रेता के उत्पाद अपडेट के विरुद्ध जाँचें। उन औज़ारों के भीतर AI की फ़ीचर शामिल करें जिनके आप पहले से स्वामी हैं। आश्चर्य की अपेक्षा करें: लोग वे औज़ार उपयोग करते हैं जिन्हें आपने मंज़ूर नहीं किया, अक्सर अच्छे कारणों से। उन्हें जानकारी मानें (देखें विषय 7.2, सॉफ़्टवेयर परिसंपत्ति और लाइसेंस मीट्रिक्स)।

2. हर उपयोग को स्वामी और जोखिम की श्रेणी सौंपें। स्वामी वह व्यक्ति है जो उपयोग और उसके परिणामों के लिए जवाबदेह है। जोखिम की श्रेणी प्रणाली के विफल होने पर हानि दर्शाती है: कौन प्रभावित होता है, क्या लोगों के बारे में निर्णय शामिल हैं, क्या वह अपने-आप कार्रवाई करती है, वह कौन-सा डेटा छूती है, और प्रभाव कितने पलटने योग्य हैं। कुछ श्रेणियाँ स्पष्ट नियमों के साथ उपयोग करें। NIST AI रिस्क मैनेजमेंट फ़्रेमवर्क, ISO/IEC 42001 और लागू कानून जैसे मान्य ढाँचों से लें और उन्हें अपने संदर्भ में ढालें।

3. अनुमोदन अनुपातिक बनाएँ। कम जोखिम के उपयोगों के लिए कुछ प्रश्नों वाला त्वरित सेल्फ़-सर्विस पंजीकरण पर्याप्त है। परिणामकारी उपयोगों के लिए जोखिम का आकलन, मूल्यांकन के परिणाम, परिभाषित मानवीय निगरानी का डिज़ाइन, और हस्ताक्षर आवश्यक करें। सुरक्षित बहुमत के लिए तेज़ रास्ता लोगों को प्रणाली के भीतर रखता है, और खतरनाक कुछ के लिए धीमा रास्ता उन्हें उचित जाँच देता है।

परखें और बदलाव को नियंत्रित करें

4. उपयोग से पहले और उसके दौरान यथार्थवादी मामलों पर मूल्यांकन करें। ऐसे परीक्षण के मामलों का सेट बनाएँ जो असली इनपुट दर्शाएँ, कठिन और विरोधी भी, और आउटपुट को लिखे मानदंडों के विरुद्ध अंक दें। जहाँ लोग प्रभावित हो सकते हैं वहाँ सुरक्षा और निष्पक्षता की जाँचें शामिल करें। मूल्यांकन कार्यक्रम पर और मॉडल, प्रॉम्प्ट या डेटा बदलने पर दोबारा चलाएँ। रेड टीम, वह समूह जो कमज़ोरियाँ खोजने के लिए जान-बूझकर प्रणाली पर हमला करता है, उच्च जोखिम के उपयोगों के लिए उपयोगी प्रथा है। सहायता प्राप्त काम के नमूने की प्रथाएँ देखें (देखें विषय 10.2, AI-सहायता प्राप्त कार्य को मापना)।

5. मॉडलों, प्रॉम्प्ट और औज़ारों को परिवर्तन नियंत्रण में रखें। प्रॉम्प्ट और कॉन्फ़िगरेशन को कोड की तरह संस्करणित करें। बदलावों के लिए जोखिम के अनुपात में परीक्षण और अनुमोदन आवश्यक करें, उन्हें दर्ज करें, और पलटने की क्षमता रखें। विक्रेता-प्रेरित मॉडल के अपडेट ट्रैक करें, जो बिना नोटिस व्यवहार बदल सकते हैं, और आपूर्तिकर्ताओं से सहमत हों कि आपको कैसे बताया जाएगा। मॉडल के उन्नयन को ऐसा परिवर्तन मानें जिसे नियंत्रण चाहिए (देखें विषय 4.3, परिवर्तन सक्षमीकरण मीट्रिक्स)।

6. उत्पादन में निगरानी करें। इनपुट और आउटपुट में ड्रिफ़्ट, बढ़ती त्रुटि और अधिलेखन की दरें, और असामान्य पैटर्न देखें। समीक्षा ट्रिगर करने वाली सीमाएँ तय करें। जो प्रणालियाँ कार्रवाइयाँ करती हैं उनके लिए कार्रवाई के लॉग की निगरानी करें। निगरानी वह तरीका है जिससे आप वे समस्याएँ पाते हैं जो परीक्षण ने चूकीं।

मानवीय निगरानी को असली रखें

7. ऐसी निगरानी डिज़ाइन करें जो काम कर सके। तेज़ प्रणाली के हर आउटपुट की समीक्षा करता व्यक्ति साथ नहीं चल सकता, और जिस व्यक्ति से वह अनुमोदित करने को कहा जाए जो वह समझ नहीं सकता, वह निगरानी नहीं दे रहा। परिभाषित करें कि मनुष्य क्या करता है, उसके पास कौन-सी जानकारी है, कितना समय, और अधिलेखित करने का क्या अधिकार। समीक्षाओं का नमूना लें यह जाँचने को कि वे सारगर्भित हैं। स्वचालन के पक्षपात, यानी मशीन के आउटपुट को स्वीकार करने की प्रवृत्ति, से सावधान रहें (देखें विषय 10.1, सेवा प्रबंधन मापन में AI)।

8. ऑडिट ट्रेल रखें। निजता के नियमों और प्रतिधारण की सीमाओं के अधीन, जाँच को सहारा देने वाले रूप में इनपुट, आउटपुट, संस्करण, निर्णय और कार्रवाइयाँ दर्ज करें। ऑडिट ट्रेल (audit trail) आपको उत्तर देने देता है कि क्या हुआ और क्यों। लोगों के बारे में परिणामकारी निर्णयों के लिए विचार करें कि आप कौन-सी व्याख्या दे सकते हैं और अपील का कौन-सा रास्ता है (देखें विषय 8.3, अनुपालन और ऑडिट मीट्रिक्स)।

9. डेटा की रक्षा करें और हेरफेर का प्रतिरोध करें। नियंत्रित करें कि AI प्रणालियाँ कौन-सा डेटा देख और भेज सकती हैं। प्रॉम्प्ट इंजेक्शन और डेटा के रिसाव के लिए परखें, विशेष रूप से उन प्रणालियों के लिए जो बाहरी सामग्री पढ़ती हैं या जिनकी औज़ारों तक पहुँच है। कार्रवाई करने वाले एजेंटों के लिए उपयोग होने वाले न्यूनतम विशेषाधिकार के सिद्धांत लागू करें (देखें विषय 10.3, AI एजेंट और चैटबॉट मीट्रिक्स, और विषय 8.1, सुरक्षा घटना और संवेदनशीलता मीट्रिक्स)। डिज़ाइन के समय निजता पर विचार करें, और डेटा सुरक्षा के विशेषज्ञों को शामिल करें।

प्रतिक्रिया दें और सीखें

10. AI की घटनाओं को घटनाएँ मानें। परिभाषित करें कि क्या गिना जाता है: हानिकारक या पक्षपाती आउटपुट, डेटा का उजागर होना, असुरक्षित कार्रवाइयाँ, उपयोगकर्ताओं तक पहुँचने वाली महत्वपूर्ण त्रुटियाँ। AI के टैग के साथ अपनी सामान्य घटना की प्रक्रिया उपयोग करें, दोष-रहित समीक्षा करें, और सबक मूल्यांकन तथा नियंत्रणों को खिलाएँ। कर्मचारियों और उपयोगकर्ताओं के लिए रिपोर्ट करना आसान बनाएँ। रोकने का समय किसी भी घटना जितना मायने रखता है (देखें विषय 3.4, बड़ी घटना के मीट्रिक्स)।

11. आपूर्तिकर्ताओं की AI का प्रबंधन करें। आपूर्तिकर्ताओं से पूछें कि वे कौन-सी AI फ़ीचर उपयोग करते हैं, उन्हें कैसे परखा और बदला जाता है, डेटा कैसे संभाला जाता है, और घटनाएँ कैसे रिपोर्ट होती हैं। जहाँ मायने रखे वहाँ अनुबंधों में AI-विशिष्ट शर्तें जोड़ें, जिसमें मॉडल के भौतिक बदलावों की सूचना शामिल है। महत्वपूर्ण आपूर्तिकर्ताओं का चक्र पर पुनः-आकलन करें (देखें विषय 8.4, आपूर्तिकर्ता और अनुबंध मीट्रिक्स)।

12. शासन की स्वयं समीक्षा करें। हर तिमाही जाँचें कि माप क्या दिखाते हैं: कौन-से उपयोग अपंजीकृत रहे, कौन-से अनुमोदन बहुत धीमे थे, कौन-से नियंत्रण समस्याएँ नहीं पकड़ पाए। नीति और रास्ते समायोजित करें। समीक्षा में कर्मचारियों और उपयोगकर्ताओं को शामिल करें। नियम छोटे, स्पष्ट और सामयिक रखें, और वे नियंत्रण सेवानिवृत्त करें जो अपनी लागत नहीं कमाते।

गेमिंग के रास्ते और सुरक्षा-रेखाएँ

मीट्रिक इसमें गेमिंग कैसे होती है जोड़ीदार सुरक्षा-रेखा मीट्रिक या प्रथा
AI के उपयोग के रजिस्टर की कवरेज प्रतिशत बढ़ाने के लिए मामूली उपयोग पंजीकृत करना; भाजक को जो पंजीकृत है उतने तक सीमित करना भाजक के लिए स्वतंत्र खोज; गुणवत्ता के लिए रजिस्टर की प्रविष्टियों का नमूना; अपंजीकृत उपयोगों के लिए क्षमादान
जोखिम के आकलन की सामयिकता हल्के आकलन जो हमेशा पास हों; कम जोखिम के उपयोगों का आकलन आकलन की गहराई की समीक्षा; जाँचें कि जोखिम की श्रेणी कसौटियों से मेल खाती है
परिवर्तन नियंत्रण की कवरेज विक्रेता के बदलाव न पहचानना; बाद में बदलाव दर्ज करना संस्करण के इतिहास और विक्रेता की सूचनाओं से पहचान; रिलीज़ से पहले की मुहर वाले परिवर्तन के रिकॉर्ड
मूल्यांकन की सामयिकता आसान मामलों पर मूल्यांकन; परिणाम देखकर सहनशीलता चुनना स्वतंत्र पक्ष द्वारा समीक्षित परीक्षण के सेट; पहले से तय सीमाएँ
मानवीय निगरानी के प्रमाण की दर पढ़े बिना अनुमोदन पर क्लिक करना; ऐसी समीक्षा दर्ज करना जो परिणाम नहीं बदल सकती थी सार के लिए समीक्षाओं का नमूना; बोई ज्ञात त्रुटियाँ; समीक्षक का भार
AI घटना की दर और रोकने का समय घटनाएँ रिपोर्ट न करना; परिभाषा संकरी करना आसान, दोष-रहित रिपोर्टिंग; उपयोगकर्ताओं की शिकायतों और ऑडिट के निष्कर्षों से तुलना
आपूर्तिकर्ता की AI की उचित जाँच की सामयिकता विपणन से भरे प्रश्नावली के उत्तर; प्रमाण के बिना आकलन महत्वपूर्ण आपूर्तिकर्ताओं के लिए प्रमाण की आवश्यकताएँ; स्वतंत्र सत्यापन

स्वस्थ पठन ऐसा रजिस्टर है जिसकी स्वतंत्र खोज पुष्टि करती है, आकलन जो जोखिम से मेल खाते हैं, बदलाव जो नियंत्रण से गुज़रते हैं, मूल्यांकन जो सामयिक रखे गए, निगरानी जो असली त्रुटियाँ पाती है, घटनाएँ जो आसानी से रिपोर्ट होती और जल्दी रोकी जाती हैं, और आपूर्तिकर्ता जो साझा करते हैं कि वे क्या बदलते हैं।

समझौते: लाभ और हानि

तरीका ताकत कमज़ोरी
हर AI के उपयोग का केंद्रीय अनुमोदन नियंत्रण, एकरूपता धीमा; उपयोग को भूमिगत करता है
जोखिम के स्तरों के साथ सेल्फ़-सर्विस पंजीकरण सुरक्षित बहुमत के लिए तेज़ अच्छी कसौटियाँ और औचक जाँचें चाहिए
सार्वजनिक औज़ारों पर प्रतिबंध डेटा का उजागर होना घटाता है छाया उपयोग; खोए लाभ
मार्गदर्शन के साथ मंज़ूर औज़ार दिखाई देता और प्रबंधनीय उपयोग प्रावधान और सहायता चाहिए
भारी दस्तावेज़ीकरण ऑडिट के लिए प्रमाण बोझ; प्रथा को न दर्शा सकता है
पाइपलाइन में स्वचालित मूल्यांकन निरंतर, एकसमान अच्छे परीक्षण के सेट चाहिए; नई विफलताएँ चूक सकता है
हर चीज़ की मानवीय समीक्षा सुरक्षा बढ़ाई नहीं जा सकती; थकान
जोखिम-आधारित नमूना व्यावहारिक कुछ विफलताएँ फिसल जाती हैं

सीधा उत्तर है कि मंज़ूर औज़ार और कम जोखिम के उपयोगों के लिए त्वरित रास्ता दें, जाँच परिणामकारी उपयोगों पर केंद्रित करें, मूल्यांकन और निगरानी स्वचालित करें, और मानवीय निगरानी वहाँ रखें जहाँ वह सचमुच काम कर सके।

अपनी टीम के साथ चर्चा के प्रश्न

1. आज हम AI कहाँ उपयोग करते हैं जो किसी सूची में नहीं है? टीम से ईमानदारी से पूछें, और क्षमादान दें। मसौदे, सारांश, कोडिंग और विश्लेषण के लिए उपयोग होने वाले औज़ार देखें, उत्पादों के भीतर वाले भी। सूत्रधार बिना निर्णय के उपयोग दर्ज करे। सहमत हों कि उन्हें कौन पंजीकृत करेगा और किन पर निकट से देखना है।

2. यदि हमारे सबसे परिणामकारी AI के उपयोग ने हानिकारक ग़लती की, तो हमें कैसे पता चलेगा और हम क्या करेंगे? पहचान, रोकना, संवाद और सीखने पर चलें। निगरानी, स्वामित्व और बंद करने के अधिकार में अंतर नोट करें। एक सुधार पर सहमत हों।

3. हमारे नीचे क्या बिना किसी के अनुमोदन के बदल सकता है? मॉडल, प्रॉम्प्ट, डेटा स्रोत और विक्रेता के अपडेट सूचीबद्ध करें। हर एक के लिए पूछें कि हमें कैसे पता चलेगा कि वह बदला और हम उसे कैसे परखेंगे। सहमत हों कि पहचान या परीक्षण कहाँ जोड़ना है।

4. क्या हमारी प्रक्रिया में AI के आउटपुट की समीक्षा करने वाला व्यक्ति यथार्थवादी रूप से गंभीर त्रुटि पकड़ सकता है? मात्रा, जानकारी, समय और अधिकार देखें। बोई त्रुटि से परखें। यदि समीक्षा काम नहीं कर सकती, तो और AI जोड़ने से पहले प्रक्रिया को फिर से डिज़ाइन करें।

5. हमारे कौन-से नियम व्यस्त सहकर्मी को आसानी से पालन करने योग्य लगेंगे, और कौन-से वे टालेंगे? मौजूदा नियम सूचीबद्ध करें और उन्हें असली कार्यप्रवाहों के विरुद्ध परखें। चर्चा करें कि नियम क्यों टाले जाते हैं। ऐसे बदलावों पर सहमत हों जो सुरक्षित रास्ते को आसान रास्ता बनाएँ।

6. हमारे आपूर्तिकर्ताओं ने अपनी AI के बारे में हमें क्या बताया है, और हमने क्या नहीं पूछा? हाल की प्रश्नावलियाँ और अनुबंध जाँचें। AI फ़ीचर वाले महत्वपूर्ण आपूर्तिकर्ता और जानकारी के अंतर पहचानें। अगली समीक्षा के लिए प्रश्नों पर सहमत हों।

चार दृष्टिकोण

उत्पाद और डिलीवरी टीमें

डिलीवरी टीमें AI की फ़ीचर बनाती और अपनाती हैं, और वे शासन को घर्षण या मदद के रूप में महसूस करती हैं। उन्हें उपयोग जल्दी पंजीकृत करने चाहिए, यथार्थवादी मामलों पर परखना चाहिए, प्रॉम्प्ट और मॉडल संस्करण नियंत्रण में रखने चाहिए, और ऐसी निगरानी डिज़ाइन करनी चाहिए जो काम करे। उन्हें कम जोखिम के उपयोगों के तेज़ अनुमोदन से लाभ होता है।

सेवा और संचालन टीमें

संचालन टीमें उत्पादन में AI चलाती और उसकी घटनाओं का जवाब देती हैं। उन्हें ड्रिफ़्ट की निगरानी करनी चाहिए, कार्रवाई के लॉग रखने चाहिए, AI की घटनाएँ टैग करनी चाहिए, और प्रणाली को बंद करने का अधिकार और साधन रखने चाहिए। वे स्वयं भी AI उपयोग करती हैं और उन्हें वही नियम मानने चाहिए।

नेतृत्व और शासन

नेता जोखिम की भूख तय करते हैं और परिणामों के लिए जवाबदेह हैं। उन्हें रजिस्टर, मूल्यांकन और निगरानी को वित्त देना चाहिए, स्वीकार करना चाहिए कि AI के कुछ उपयोग पास नहीं होंगे, उपयोगों की स्वतंत्र खोज माँगनी चाहिए, और घटनाएँ तथा रोकने का समय ट्रैक करना चाहिए। शासन निकायों को नियम छोटे रखने चाहिए, उनकी नियमित समीक्षा करनी चाहिए, और सुनिश्चित करना चाहिए कि कर्मचारियों और उपयोगकर्ताओं की आवाज़ है।

ग्राहक और उपयोगकर्ता

उपयोगकर्ता AI के निर्णयों और आउटपुट से प्रभावित होते हैं, अक्सर बिना जाने। वे जानने के हकदार हैं कि जब उन्हें प्रभावित करने वाले मामलों में AI शामिल हो, किसी व्यक्ति तक पहुँचने के, और निर्णयों को चुनौती देने के। शिकायतें और अपीलें प्रमाण हैं कि व्यवहार में शासन कैसे काम करता है।

व्यवहार में: सेवा प्रबंधन का एक उदाहरण

एक क्षेत्रीय बैंक का प्रौद्योगिकी और संचालन विभाग तब AI की नीति अपनाता है जब कोई कर्मचारी ग्राहक के विवरण सार्वजनिक औज़ार में चिपकाता है। अनुपालन टीम रजिस्टर प्रकाशित करती है और हर उपयोग के सूचीबद्ध होने की अपेक्षा करती है। नीचे की संख्याएँ दृष्टांत के लिए हैं।

तीन महीने बाद रजिस्टर में 38 AI उपयोग सूचीबद्ध हैं। प्रौद्योगिकी जोखिम की प्रमुख स्वतंत्र तरीकों से जाँचती हैं: खरीद और खर्च का डेटा, AI सेवाओं में साइन-इन दिखाते पहचान के लॉग, नेटवर्क का डेटा, और गुमनाम कर्मचारी सर्वेक्षण। खोज 94 उपयोग पाती है, इसलिए रजिस्टर की कवरेज 40 प्रतिशत है। सत्रह उन औज़ारों के भीतर की फ़ीचर हैं जिनका बैंक के पास पहले से लाइसेंस है, और बारह सार्वजनिक औज़ार हैं जो कर्मचारी उपयोग करते हैं। 38 पंजीकृत उपयोगों में से केवल 14 की जोखिम की श्रेणी है, और तीन सबसे अधिक जोखिम वाले, धोखाधड़ी के अलर्ट स्कोर करने वाला मॉडल, ग्राहकों के लिए चैटबॉट, और शिकायतों का सारांश बनाने वाला औज़ार, का पिछले साल में कोई मूल्यांकन नहीं हुआ। धोखाधड़ी के मॉडल के कॉन्फ़िगरेशन और चैटबॉट के प्रॉम्प्ट में बदलाव टीमें सीधे करती हैं, और पिछली तिमाही के परिवर्तन के रिकॉर्ड संस्करण के इतिहास में मिले बदलावों के 21 प्रतिशत को कवर करते हैं। मॉडल द्वारा खारिज 60 धोखाधड़ी के अलर्ट का नमूना उनमें से 52 के लिए दर्ज मानवीय समीक्षा दिखाता है, पर पाँच ज्ञात चूकों का बोया सेट केवल एक समीक्षक ने पकड़ा, क्योंकि हर समीक्षक रोज़ कई सौ अलर्ट संभालता है। एक घटना, जिसमें चैटबॉट ने ग्राहकों को पुरानी शुल्क की राशि बताई, शिकायत से मिली, और उसे रोकने में छह दिन लगे क्योंकि उसे बंद करने का अधिकार किसी के पास नहीं था।

प्रौद्योगिकी जोखिम की प्रमुख टीमों के साथ शासन फिर से डिज़ाइन करती हैं। पाँच प्रश्नों वाला संक्षिप्त सेल्फ़-सर्विस पंजीकरण कम जोखिम के उपयोगों को मिनटों में रजिस्टर में रखता है, और क्षमादान की अवधि कर्मचारियों को अपने उपयोग के औज़ार सूचीबद्ध करने को प्रोत्साहित करती है। जोखिम की श्रेणियाँ हानि, डेटा और स्वायत्तता पर आधारित हैं। उच्च जोखिम के उपयोगों को आकलन, यथार्थवादी और विरोधी मामलों के विरुद्ध मूल्यांकन, और परिभाषित निगरानी का डिज़ाइन चाहिए। मॉडल, प्रॉम्प्ट और औज़ार जोखिम के अनुपात में परीक्षणों के साथ परिवर्तन नियंत्रण में जाते हैं, और चैटबॉट के प्रॉम्प्ट रोलबैक के साथ संस्करणित हैं। धोखाधड़ी के अलर्ट की प्रक्रिया ऐसे फिर से डिज़ाइन होती है कि समीक्षक कम, बेहतर प्राथमिकता वाले अलर्ट संभालें, और बोई त्रुटियाँ उनकी पहचान परखती हैं। हर उच्च जोखिम के उपयोग के नामित स्वामी के पास उसे बंद करने का अधिकार है, और घटना की प्रतिक्रिया AI को कवर करती है। बैंक के क्लाउड और AI के आपूर्तिकर्ताओं से पूछा जाता है कि वे कौन-सी AI फ़ीचर उपयोग करते हैं और बदलावों की सूचना कैसे देते हैं।

दो तिमाही बाद स्वतंत्र खोज से रजिस्टर की कवरेज 88 प्रतिशत है, सभी उच्च जोखिम के उपयोग चक्र के भीतर आँके और मूल्यांकित हैं, परिवर्तन नियंत्रण की कवरेज 84 प्रतिशत है, समीक्षकों द्वारा बोई त्रुटि की पहचान 5 में से 4 तक बढ़ती है, और AI की घटना को रोकने के समय की माध्यिका 3 घंटे है। कर्मचारी अधिकांश कामों के लिए मंज़ूर औज़ार उपयोग करते हैं। एक वरिष्ठ अधिकारी रजिस्टर की 100 प्रतिशत कवरेज का लक्ष्य माँगते हैं। प्रौद्योगिकी जोखिम की प्रमुख स्वतंत्र खोज के विरुद्ध कवरेज, आकलन की सामयिकता, और घटना की हैंडलिंग ट्रैक करने का प्रस्ताव रखती हैं, और समझाती हैं कि खोज के बिना रजिस्टर 100 प्रतिशत तक पहुँचकर भी जोखिम चूक सकता है। निर्णय दर्ज होता है।

एजाइल, AI, स्वचालन और विश्लेषण

एजाइल

AI का शासन चालू सेवा में परिवर्तन के रूप में करें, एक बार के अनुमोदन की जगह हल्की, नियमित समीक्षा के साथ और हितधारकों को मेज़ पर रखकर। सावधानी यह है कि भारी अनुमोदन के द्वार टीमों से AI का उपयोग छिपवाते हैं।

AI

AI के हर उपयोग का रजिस्टर स्वामी, जोखिम की श्रेणी, मूल्यांकन की तिथि और मानवीय निगरानी के बिंदु के साथ रखें, और कवरेज स्वतंत्र खोज के विरुद्ध मापें। परखें कि निगरानी प्रयोग की जा सकती है। सावधानी यह है कि यह पुस्तक कानूनी सलाह नहीं देती, और दायित्व स्थान और समय के साथ भिन्न हैं, इसलिए उन्हें अपने कानूनी सलाहकार से जाँचें।

स्वचालन

मॉडल, प्रॉम्प्ट और डेटा के बदलावों की खोज और प्रमाण जुटाना स्वचालित करें, और स्वचालन को छूटे बदलावों पर मापें। सावधानी यह है कि स्वचालित मूल्यांकन के सेट वही परखते हैं जिसके लिए बने थे, इसलिए विफलताएँ आने पर नए परीक्षण जोड़ें।

विश्लेषण

तिथियों और गिनतियों के साथ आकलनों और मूल्यांकनों की सामयिकता रिपोर्ट करें। यह जिस निर्णय को सूचित करता है वह है निगरानी कहाँ पतली है। सावधानी यह है कि AI के लिए घटनाओं की गिनतियाँ छोटी और असमान हैं, इसलिए उन्हें निकट-चूक की रिपोर्टों से जोड़ें।

क्षेत्र का नज़रिया

स्टार्टअप। गति मायने रखती है और जोखिम अधिकतर डेटा के उजागर होने और अविश्वसनीय आउटपुट हैं। स्वामियों के साथ औज़ारों और उपयोगों की छोटी सूची रखें, कुछ स्पष्ट नियम तय करें कि कौन-सा डेटा कहाँ उपयोग हो सकता है, और प्रॉम्प्ट संस्करणित करें। ग्राहकों की आश्वासन की माँग बढ़ने पर फिर देखें।

छोटा व्यवसाय। कर्मचारी सार्वजनिक औज़ार उपयोग करेंगे। मंज़ूर विकल्प दें, डेटा पर एक पृष्ठ का नियम लिखें, और समीक्षा करें कि औज़ार कैसे उपयोग होते हैं। आपूर्तिकर्ताओं से उनकी AI फ़ीचर के बारे में पूछें, और रिकॉर्ड रखें कि AI कहाँ ग्राहकों या कर्मचारियों के बारे में निर्णय करता है।

उद्यम। पैमाने को संचालन का मॉडल चाहिए: रजिस्टर, जोखिम के स्तर, मूल्यांकन के मानक, परिवर्तन नियंत्रण और घटना की प्रक्रिया, मौजूदा जोखिम और सुरक्षा के कार्यों से एकीकृत। स्वतंत्र खोज उपयोग करें, पाइपलाइन में मूल्यांकन स्वचालित करें, और मानकों से संरेखित करें। टीमों को तेज़ रास्ता दें।

सरकार और सार्वजनिक क्षेत्र। नागरिकों को प्रभावित करने वाले निर्णय पारदर्शिता, निष्पक्षता और अपील के कर्तव्य लाते हैं, और खरीद तथा कानूनी ढाँचे तय करते हैं कि क्या अनुमत है। जहाँ आवश्यक हो उच्च प्रभाव के उपयोगों के सार्वजनिक रिकॉर्ड रखें, अधिकारों पर प्रभाव आँकें, मनुष्यों को सार्थक रूप से लूप में रखें, और वर्तमान कानून और मार्गदर्शन जाँचें (देखें विषय 8.5, विनियमित और सरकारी रिपोर्टिंग)।

व्यावसायिक औचित्य: प्रेरणाएँ, ROI और TCO

लागतों में रजिस्टर बनाने और बनाए रखने का प्रयास, खोज के औज़ार या विश्लेषण, जोखिम के आकलन, मूल्यांकन के सेट और दौड़ें, प्रॉम्प्ट और मॉडल के लिए परिवर्तन नियंत्रण, निगरानी, प्रशिक्षण, और घटना की प्रतिक्रिया की क्षमता शामिल हैं। शासन उच्च जोखिम के उपयोगों के लिए कुछ देरी भी जोड़ता है। ये लागतें उपयोगों की संख्या और जोखिम के साथ बढ़ती हैं, जो कम जोखिम के अनुमोदन को हल्का रखने का कारण है।

प्रतिफलों में टाली हानि और उजागर होना, ऑडिट और नियामकीय समीक्षाओं में कम आश्चर्य, स्पष्ट नियमों से तेज़ सुरक्षित अपनाया जाना, और ग्राहकों तथा कर्मचारियों का भरोसा शामिल हैं। मामला अपने डेटा से बनाएँ: रजिस्टर के बाहर मिले उपयोगों की संख्या और जो डेटा वे छूते हैं, घटनाएँ और उनकी लागत, पहले और बाद में तदर्थ अनुमोदनों में बीता समय, और ऑडिटों के निष्कर्ष। AI की घटनाओं या जुर्मानों के प्रकाशित आँकड़े बिना अनुरेखित स्रोत और आपके संदर्भ में प्रासंगिकता के उद्धृत करने से बचें। शासन न करने की लागत शामिल करें, जिसमें महत्वपूर्ण कानूनी और साख की हानि की संभावना है (देखें विषय 7.7, निवेश पर प्रतिफल और व्यावसायिक औचित्य)।

प्रतिरूप-विरोधी और जाल

  • ऐसा रजिस्टर जिसे कोई नहीं जाँचता। कवरेज ऊँची दिखती है और असली उपयोग चूकती है। स्वतंत्र खोज उपयोग करें।
  • सर्वव्यापी प्रतिबंध। वे उपयोग भूमिगत करते हैं। मंज़ूर औज़ार और तेज़ रास्ता दें।
  • प्रॉम्प्ट और मॉडल को ऐसा कॉन्फ़िगरेशन मानना जिसका कोई स्वामी नहीं। व्यवहार अनदेखा बदलता है। उन्हें परिवर्तन नियंत्रण में रखें।
  • एक बार मूल्यांकन करना। प्रणालियाँ भटकती और बदलती हैं। कार्यक्रम पर और बदलाव पर दोबारा चलाएँ।
  • नाम मात्र की निगरानी। समीक्षक वह नहीं पकड़ सकते जो वे देख नहीं सकते। बोई त्रुटियों से परखें और भार ठीक करें।
  • बंद करने का अधिकार नहीं। रोकने में दिन लगते हैं। प्रणाली रोकने की शक्ति वाले स्वामी नामित करें।
  • आपूर्तिकर्ताओं की AI को अनदेखा करना। आपके जोखिम में उनका जोखिम शामिल है। पूछें, अनुबंध करें और फिर आकलन करें।
  • ऐसे नियम जिनका कोई पालन नहीं कर सकता। वे टाले जाते हैं। उन्हें छोटा रखें और सुरक्षित रास्ता आसान बनाएँ।

परिपक्वता मॉडल

आयाम 1 आरंभ 2 विकास 3 मानकीकरण 4 प्रबंधन 5 समन्वयन
जानना और वर्गीकृत करना AI के उपयोग का कोई दृश्य नहीं नीति और आंशिक सूची स्वामी और जोखिम की श्रेणी वाला रजिस्टर; कवरेज के लिए स्वतंत्र खोज का उपयोग कवरेज, आकलन की सामयिकता और अनुमोदन के समय प्रबंधित व्यावसायिक इकाइयों और आपूर्तिकर्ताओं में साझा रजिस्टर का दृश्य; नियामकों और उपयोगकर्ताओं के साथ श्रेणियाँ समीक्षित
परखना और बदलाव तदर्थ कुछ उपयोगों के लिए कुछ मूल्यांकन यथार्थवादी मामलों पर मूल्यांकन; प्रॉम्प्ट और मॉडल परिवर्तन नियंत्रण में निरंतर मूल्यांकन और ड्रिफ़्ट की निगरानी; कवरेज प्रबंधित पाइपलाइनों में स्वचालित, जोखिम-आधारित मूल्यांकन और बदलाव, स्वतंत्र रूप से ऑडिट
निगरानी और सीखना भरोसे पर निर्भरता सिद्धांत में समीक्षा है निगरानी डिज़ाइन और नमूना; AI की घटनाएँ टैग और दोष-रहित समीक्षित बोई त्रुटि के परीक्षण, रोकने का समय और आपूर्तिकर्ता के आकलन प्रबंधित आपूर्तिकर्ताओं और ग्राहकों के साथ संयुक्त अभ्यास; सीख व्यापक रूप से साझा

जाँच-सूची

  • रजिस्टर स्वामी और जोखिम की श्रेणी के साथ AI के उपयोग सूचीबद्ध करता है, स्वतंत्र खोज के विरुद्ध जाँचा हुआ।
  • कम जोखिम के उपयोगों के लिए तेज़ रास्ता है, और परिणामकारी के लिए गहरा रास्ता।
  • उच्च जोखिम के उपयोगों का वर्तमान जोखिम का आकलन और परिभाषित निगरानी का डिज़ाइन है।
  • यथार्थवादी और विरोधी मामलों पर मूल्यांकन सामयिक हैं और बदलाव पर दोबारा चलते हैं।
  • प्रॉम्प्ट, मॉडल, औज़ार और डेटा स्रोत संस्करणित हैं और परिवर्तन नियंत्रण में हैं।
  • उत्पादन की निगरानी ड्रिफ़्ट, त्रुटियों, अधिलेखन और असामान्य कार्रवाइयों पर नज़र रखती है।
  • निगरानी बोई त्रुटियों से परखी जाती है, और समीक्षक का भार यथार्थवादी है।
  • ऑडिट ट्रेल निजता और प्रतिधारण के नियमों के भीतर जाँच को सहारा देते हैं।
  • AI की घटनाएँ टैग और दोष-रहित समीक्षित होती हैं, और स्वामी प्रणालियाँ बंद कर सकते हैं।
  • AI फ़ीचर वाले आपूर्तिकर्ता आँके जाते हैं और भौतिक बदलावों की सूचना देने से बँधे हैं।

AI प्रॉम्प्ट

AI के उपयोगों के लिए जोखिम का वर्गीकरण का मसौदा बनाएँ।

Propose a simple risk classification (three or four levels) for AI uses in [type of
organization] based on harm if wrong, who is affected, involvement of decisions
about people, autonomy of actions, data sensitivity, and reversibility. For each
level, state example uses, the approvals and evidence required, and the review
cycle. Do not state legal conclusions. List your assumptions and points to confirm
with legal, risk, and security specialists.

पंजीकरण का फ़ॉर्म डिज़ाइन करें।

Design a short self-service registration form for new AI uses, with no more than
eight questions, that assigns an initial risk class automatically and routes
higher-risk uses to review. Cover purpose, data, users affected, autonomy, vendor,
and owner. Explain how to keep it quick for low-risk cases. List your assumptions
and risks of misclassification.

मूल्यांकन के सेट की योजना बनाएँ।

We use AI for [task] in [process]. Help design an evaluation set: types of
realistic cases, difficult and adversarial cases, written criteria for correct
and safe outputs, checks for fairness where people are affected, how big a set is
practical, how often to rerun it, and what changes should trigger a rerun. Do not
claim a set is sufficient. List your assumptions and limits.

AI की घटना की समीक्षा करें।

Here is a description of an AI-related incident: [paste, without personal data].
Draft a blameless review: timeline, how it was detected, contributing factors
(data, prompt, model, oversight, supplier, process), impact, what contained it,
and actions with owners. Suggest changes to evaluation, monitoring, and change
control. Do not assign blame to individuals. List your assumptions and open
questions.

AI स्किल

  • Service Management Metrics skill: AI के शासन या जोखिम के माप की जोड़ीदार सुरक्षा-रेखा खोजने के लिए उपयोग करें।
  • Service Management Metrics maintainer skill: यह जाँचने के लिए उपयोग करें कि AI के शासन के माप की प्रविष्टि स्वतंत्र प्रमाण उपयोग करती है और अपना गेमिंग का रास्ता तथा सुरक्षा-रेखा रखती है।

मुख्य निष्कर्ष

  • AI का रजिस्टर स्वतंत्र खोज से बनाएँ, और जाँच को जोखिम से मिलाएँ, सुरक्षित उपयोगों के लिए तेज़ रास्ते के साथ।
  • मॉडल, प्रॉम्प्ट, औज़ार और डेटा स्रोतों को ऐसे बदलाव मानें जिन्हें परीक्षण, अनुमोदन और रोलबैक चाहिए।
  • उपयोग से पहले और उपयोग के दौरान, यथार्थवादी और विरोधी मामलों पर मूल्यांकन करें।
  • ऐसी मानवीय निगरानी डिज़ाइन करें जो काम कर सके, और उसे बोई त्रुटियों से परखें।
  • AI की घटनाओं को अन्य घटनाओं जैसा मानें, दोष-रहित समीक्षा के साथ, और स्वामियों को प्रणाली बंद करने की शक्ति दें।
  • आपूर्तिकर्ताओं से उनकी AI के बारे में पूछें, और नियम छोटे और सुरक्षित रास्ता आसान रखें।

संदर्भ और आगे का अध्ययन

  1. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
  2. ISO/IEC 42001, Information technology: Artificial intelligence: Management system, International Organization for Standardization, 2023.
  3. ISO/IEC 23894, Information technology: Artificial intelligence: Guidance on risk management, International Organization for Standardization, 2023.
  4. European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
  5. Organisation for Economic Co-operation and Development, OECD AI Principles, 2019 (updated 2024).
  6. Mitchell, M., et al., "Model Cards for Model Reporting," Proceedings of the Conference on Fairness, Accountability, and Transparency, 2019.
  7. Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
  8. Wikipedia, Algorithmic bias.
  9. Wikipedia, Prompt injection.
  10. Wikipedia, Artificial Intelligence Act.
  11. Wikipedia, Responsible AI.
  12. Wikipedia, Regulation of artificial intelligence.
  13. Wikipedia, Shadow IT.
  14. Wikipedia, Goodhart's law.
  15. Wikipedia, Audit trail.