ভূমিকা ও প্রেক্ষাপট

এআই একটি প্রতিষ্ঠানে অনেক দরজা দিয়ে ঢোকে। একটি দল একটি কোডিং সহকারী গ্রহণ করে। একজন বিক্রেতা ইতিমধ্যে ব্যবহৃত একটি পণ্যে একটি জেনারেটিভ ফিচার যোগ করে। একজন কর্মী একটি নথি একটি সর্বজনীন টুলে পেস্ট করেন। একটি বিভাগ অনুরোধে স্কোর দেওয়ার জন্য একটি মডেল বানায়। প্রতিটি এআইয়ের একটি ব্যবহার, নিজস্ব সুবিধা ও ঝুঁকিসহ, এবং খুব কমই এক জায়গায় দৃশ্যমান। গভর্ন্যান্স হলো কাঠামো, নীতি ও চর্চার সেই সমষ্টি যা ওই ব্যবহারগুলোকে জানা, জবাবদিহিযোগ্য এবং যথেষ্ট নিরাপদ করে। ঝুঁকির মেট্রিক বলে গভর্ন্যান্স কাজ করছে কি না।

ITIL-এর কাছে বিল্ডিং ব্লক আছে: সেবা মূল্য ব্যবস্থার গভর্ন্যান্স, ঝুঁকি ব্যবস্থাপনা, পরিবর্তন সক্ষমকরণ, তথ্য নিরাপত্তা ব্যবস্থাপনা, সরবরাহকারী ব্যবস্থাপনা এবং নিরন্তর উন্নয়ন। এজাইল ও DevOps-এর কাজের উপায় ছোট, নিয়ন্ত্রিত, উল্টানো যায় এমন পরিবর্তনের এবং পাইপলাইনে স্বয়ংক্রিয় যাচাইয়ের অভ্যাস জোগায়। এআই গভর্ন্যান্সের আলাদা মহাবিশ্ব লাগে না। এই চর্চাগুলো প্রচলিত সফটওয়্যারের চেয়ে ভিন্নভাবে আচরণ করা জিনিসে প্রয়োগ করা দরকার।

এআই কী ভিন্ন?

  • আচরণ পরিসংখ্যানগত এবং কোড না বদলেও বদলাতে পারে। একটি মডেল বিক্রেতার হালনাগাদ, ইনপুটের বদল বা প্রম্পটের বদলের পর ভিন্নভাবে আচরণ করতে পারে। উৎপাদনে সে যে তথ্য দেখে তা সে যে তথ্যে পরীক্ষিত হয়েছিল তার থেকে সরে যেতে পারে, মেশিন লার্নিংয়ে একটি ঘটনা যা ড্রিফট নামে পরিচিত। একটি ব্যবস্থা নীরবে অবনত হতে পারে।
  • আউটপুট পুরোপুরি অনুমানযোগ্য নয়। পরীক্ষা প্রতিটি ইনপুট ঢাকতে পারে না, তাই মূল্যায়ন প্রমাণ দিয়ে নয়, নমুনা ও লক্ষ্যভিত্তিক পরীক্ষা দিয়ে হয়। ব্যবস্থা এমনভাবে ব্যর্থ হতে পারে যা নির্মাতারা অনুমান করেননি।
  • ক্ষতি ছড়ানো ও অসম হতে পারে। অ্যালগরিদমিক পক্ষপাত (algorithmic bias) এমন পদ্ধতিগত ভুল যা কিছু গোষ্ঠীর জন্য অন্যায্য ফল দেয়। তা তথ্য, নকশা বা ব্যবহার থেকে আসতে পারে, এবং সামগ্রিক নির্ভুলতার সংখ্যায় না-ও দেখা যেতে পারে।
  • নতুন আক্রমণের পরিসর দেখা দেয়। প্রম্পট ইনজেকশন (prompt injection) এমন আক্রমণ যেখানে ইনপুট তথ্যে লুকানো নির্দেশ একটি ভাষা মডেলকে অনিচ্ছাকৃত আচরণে প্রভাবিত করে। মডেলকে তথ্য প্রকাশ করতে বা তাদের মালিকদের অনিচ্ছাকৃত পদক্ষেপ নিতে প্ররোচিত করা যেতে পারে।
  • সরবরাহকারীর ওপর নির্ভরতা গভীর। অনেক এআই সামর্থ্য বাইরের প্রদানকারীদের কাছ থেকে আসে, তা কীভাবে বানানো বা বদলানো হয় সে সম্পর্কে সীমিত দৃশ্যমানতাসহ। সরবরাহকারীর পরিমাপ বেশি গুরুত্বপূর্ণ (বিষয় 8.4, সরবরাহকারী ও চুক্তির মেট্রিক দেখুন)।
  • নিয়ম উঠে আসছে এবং জায়গাভেদে আলাদা। এআই নিয়ে আইন, মান ও নির্দেশনা দ্রুত বিকশিত হচ্ছে। ইউরোপীয় ইউনিয়নের আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যাক্ট (Artificial Intelligence Act) ঝুঁকিভিত্তিক পদ্ধতি নেয় এবং দায়িত্ব ধাপে ধাপে প্রযোজ্য হয়, আর অন্য এখতিয়ার ভিন্ন পথে যাচ্ছে। এআই ব্যবস্থাপনা ব্যবস্থার ISO/IEC 42001 এবং NIST এআই ঝুঁকি ব্যবস্থাপনা কাঠামোর মতো মান কাঠামো দেয়। এই বিষয়ে নির্দিষ্ট নিয়ম সম্পর্কে বিবৃতি ২০২৬ সালের অক্টোবর পর্যন্ত তারিখযুক্ত এবং আবার যাচাই করা উচিত, আর আপনার দায়িত্বে আইনি পরামর্শ পথ দেখাবে। বৃহত্তর ক্ষেত্রটি নানাভাবে দায়িত্বশীল এআই (responsible AI) বা বিশ্বাসযোগ্য এআই বলে বর্ণিত, এবং আইন এআইকে কীভাবে দেখবে সে প্রশ্ন কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ (regulation of artificial intelligence)-এর বিষয়।

গভর্ন্যান্স দুটি বিপরীত উপায়ে ব্যর্থ হতে পারে। তা এত ভারী হতে পারে যে দলগুলো তা এড়ায়, এবং এআই ব্যবহার শ্যাডো আইটি (shadow IT) হয়ে আড়ালে যায়। অথবা তা কাগুজে অনুশীলন হতে পারে, একটি নীতি ও নিবন্ধন যা চর্চা প্রতিফলিত করে না। এজাইল লক্ষ্য মধ্যপথ ইঙ্গিত করে: নিয়ম ঠিক করায় অংশীজনদের নিরন্তর সম্পৃক্ততা, কম ঝুঁকির ব্যবহারে ছোট ও দ্রুত অনুমোদন, যেখানে ক্ষতি সম্ভব সেখানে গভীরতর পরীক্ষা, এবং অভিজ্ঞতা বাড়ার সঙ্গে নিয়ন্ত্রণের নিরন্তর উন্নয়ন। স্পষ্ট সীমানাসহ প্রেরণাপ্রাপ্ত মানুষ, যাঁদের তার ভেতরে বিচার ব্যবহারে বিশ্বাস করা হয়, তাঁরা সমস্যা জানাবেন। শাস্তির ভয় পাওয়া মানুষ জানাবেন না।

গুডহার্টের সূত্র (Goodhart's law) থেকে রক্ষাবেষ্টনী গভর্ন্যান্সের পরিমাপে প্রযোজ্য: "নিবন্ধিত এআই ব্যবহারের শতাংশ" লক্ষ্য হলে নিবন্ধন এমন এন্ট্রিতে ভরে যায় যা কেউ পড়ে না, আর প্রকৃত ব্যবহার চোখের আড়ালে থাকে (বিষয় 1.2, গুডহার্টের সূত্র ও মেট্রিকের মনস্তত্ত্ব দেখুন)।

এই বিষয় অংশ 8-এর ঝুঁকি, সম্মতি ও নিরাপত্তার বিষয় এবং এই অংশের আগের বিষয়গুলোর ওপর দাঁড়ায়।

মূল নীতি

  • জানুন এআই কোথায় ব্যবহৃত হয়। ব্যবহারের একটি নিবন্ধন, পণ্যে গাঁথা এবং কর্মীরা নিজেরা গ্রহণ করা ব্যবহারসহ, ভিত্তি।
  • ঝুঁকির সঙ্গে পরীক্ষার মাত্রা মেলান। কম ঝুঁকির ব্যবহারে হালকা, পরিণতিময় ব্যবহারে গভীরতর।
  • মডেল ও প্রম্পটের বদলকে পরিবর্তন ধরুন। তাদের পরীক্ষা, ঝুঁকির অনুপাতে অনুমোদন এবং ফেরত নেওয়ার সামর্থ্য লাগে।
  • ব্যবহারের আগে ও চলাকালে মূল্যায়ন করুন। বাস্তবসম্মত ক্ষেত্রে পরীক্ষা করুন এবং উৎপাদনে পরীক্ষা চালু রাখুন।
  • অর্থপূর্ণ মানুষের তত্ত্বাবধান রাখুন। একজন মানুষকে বুঝতে, প্রশ্ন করতে ও অগ্রাহ্য করতে পারতে হবে, এবং তা করার সময় ও ক্ষমতা থাকতে হবে।
  • দোষারোপ ছাড়া ইনসিডেন্ট থেকে শিখুন। এআইয়ের ব্যর্থতা নতুন, এবং প্রতিবেদন করাই প্রতিষ্ঠানের শেখার উপায়।
  • নিরাপদ ক্ষেত্রে অনুমোদন দ্রুত করুন। ধীর গভর্ন্যান্স ব্যবহারকে চোখের আড়ালে ঠেলে দেয়।

মেট্রিকের সংজ্ঞা

মেট্রিক সংজ্ঞা সূত্র একক তথ্যের উৎস ITIL চর্চা এজাইল সমতুল্য পর্যায়কাল
এআই ব্যবহার নিবন্ধনের আচ্ছাদন স্বাধীন উপায়ে পাওয়া এআই ব্যবহারের যে অংশ একজন মালিক ও একটি ঝুঁকির শ্রেণিসহ নিবন্ধনে আছে স্বাধীন আবিষ্কারে (ক্রয়, ব্যয়, পরিচয়, নেটওয়ার্ক ও কর্মীদের প্রতিবেদন) পাওয়া ব্যবহার থেকে মালিক ও ঝুঁকির শ্রেণিসহ নিবন্ধনে থাকা ব্যবহার / স্বাধীন আবিষ্কারে পাওয়া ব্যবহার শতাংশ নিবন্ধন, ক্রয় ও ব্যয়ের তথ্য, পরিচয়ের লগ, জরিপ গভর্ন্যান্স; আইটি সম্পদ ব্যবস্থাপনা; ঝুঁকি ব্যবস্থাপনা দৃশ্যমান কাজ ও স্পষ্ট মালিকানা ত্রৈমাসিক
ঝুঁকি মূল্যায়নের হালনাগাদ থাকা মাঝারি ও উচ্চ ঝুঁকির ব্যবহারের যে অংশের প্রয়োজনীয় চক্রের মধ্যে ঝুঁকি মূল্যায়ন আছে চক্রের মধ্যে মূল্যায়িত ব্যবহার / মাঝারি ও উচ্চ ঝুঁকির ব্যবহার শতাংশ ঝুঁকি মূল্যায়ন ঝুঁকি ব্যবস্থাপনা; তথ্য নিরাপত্তা ব্যবস্থাপনা ঝুঁকি নিয়ে নিয়মিত প্রতিফলন ত্রৈমাসিক
পরিবর্তন নিয়ন্ত্রণের আচ্ছাদন উৎপাদনে মডেল, প্রম্পট, টুল ও তথ্যের উৎসের যে অংশ প্রয়োজনীয় পরীক্ষাসহ পরিবর্তন নিয়ন্ত্রণের মধ্য দিয়ে গেছে পরিবর্তনের রেকর্ড, পরীক্ষা এবং ঝুঁকির অনুপাতে অনুমোদনসহ পরিবর্তন / শনাক্ত পরিবর্তন শতাংশ সংস্করণের ইতিহাস ও বিক্রেতার রিলিজ নোটের সঙ্গে তুলনা করা পরিবর্তনের রেকর্ড পরিবর্তন সক্ষমকরণ; রিলিজ ও ডিপ্লয়মেন্ট ব্যবস্থাপনা ছোট, নিয়ন্ত্রিত, উল্টানো যায় এমন পরিবর্তন মাসিক
মূল্যায়নের হালনাগাদ থাকা উৎপাদনের ব্যবহারের যে অংশের বর্তমান মূল্যায়ন (যেখানে প্রাসঙ্গিক সেখানে নির্ভুলতা, নিরাপত্তা ও ন্যায্যতা) এবং সহনীয় সীমার মধ্যে ফল আছে চক্রের মধ্যে মূল্যায়ন ও গ্রহণযোগ্য ফলসহ ব্যবহার / পরিসরের উৎপাদনের ব্যবহার শতাংশ মূল্যায়নের রেকর্ড গুণমান আশ্বাস; ঝুঁকি ব্যবস্থাপনা আচরণের জন্য সম্পন্নের সংজ্ঞা ত্রৈমাসিক
মানুষের তত্ত্বাবধানের প্রমাণের হার নমুনা নেওয়া পরিণতিময় আউটপুট বা সিদ্ধান্তের যে অংশে একটি লিপিবদ্ধ, সারবান মানুষের পর্যালোচনা আছে ফল বদলাতে পারত এমন নথিভুক্ত পর্যালোচনাসহ নমুনা আইটেম / নমুনা নেওয়া আইটেম শতাংশ নমুনা সিদ্ধান্তের রেকর্ড ঝুঁকি ব্যবস্থাপনা; গভর্ন্যান্স রিলিজের আগে পর্যালোচনা মাসিক
এআই ইনসিডেন্টের হার ও ধারণের সময় এআই-জড়িত ইনসিডেন্ট (ক্ষতিকর আউটপুট, তথ্য প্রকাশ, অনিরাপদ পদক্ষেপ) প্রতি ব্যবহারে এবং সেগুলো ধারণের সময় প্রতি ত্রৈমাসিকে প্রতি উৎপাদন ব্যবহারে ইনসিডেন্ট; শনাক্ত থেকে ধারণ পর্যন্ত ঘণ্টার মধ্যমান ও ৮৫তম পার্সেন্টাইল ইনসিডেন্ট; ঘণ্টা এআই ট্যাগ করা ইনসিডেন্টের রেকর্ড ইনসিডেন্ট ব্যবস্থাপনা; তথ্য নিরাপত্তা ব্যবস্থাপনা দোষারোপহীন সাড়া ও শেখা ত্রৈমাসিক
সরবরাহকারীর এআই যথাযথ যাচাইয়ের হালনাগাদ থাকা গুরুত্বপূর্ণ সেবায় এআই ফিচার দেওয়া সরবরাহকারীদের যে অংশের এআই-নির্দিষ্ট মূল্যায়ন বর্তমান বর্তমান এআই মূল্যায়নসহ সরবরাহকারী / এআই ফিচারসহ গুরুত্বপূর্ণ সরবরাহকারী শতাংশ সরবরাহকারীর মূল্যায়ন সরবরাহকারী ব্যবস্থাপনা; ঝুঁকি ব্যবস্থাপনা নির্ভরতার নিয়মিত পর্যালোচনা ত্রৈমাসিক

নিবন্ধনে "এআই ব্যবহার" ব্যাপকভাবে সংজ্ঞায়িত করুন: আপনার বানানো মডেল, আপনার কেনা সেবা, পণ্যের ভেতরের ফিচার এবং কর্মীদের ব্যবহার করা টুল। ঝুঁকির শ্রেণি ও চক্র নীতিতে ঠিক হয়। নিবন্ধনের আচ্ছাদন স্বাধীন আবিষ্কারের বিপরীতে মাপা হয়, নিবন্ধনের নিজের বিপরীতে নয়। পরিবর্তন নিয়ন্ত্রণের আচ্ছাদনের জন্য পরিবর্তন শনাক্তের একটি উপায় লাগে: সংস্করণ নিয়ন্ত্রণ, বিক্রেতার বিজ্ঞপ্তি, কনফিগারেশন পর্যবেক্ষণ। মানুষের তত্ত্বাবধানের প্রমাণ দাবি করে যে পর্যালোচনা ফল বদলাতে পারত, কেবল একটি বোতাম চাপা হয়েছে তা নয়। ইনসিডেন্টের হার ব্যবহার ও ব্যবস্থা বর্ণনা করে এবং মানুষকে রেট করতে ব্যবহৃত হয় না।

সুপারিশ

জানুন ও শ্রেণিবদ্ধ করুন

1. জিজ্ঞাসার পাশাপাশি খুঁজে নিবন্ধন গড়ুন। একটি জরিপ ও একটি নীতি দিয়ে শুরু করুন, তারপর ক্রয় ও ব্যয়ের রেকর্ড, পরিচয় ও প্রবেশাধিকারের লগ, নেটওয়ার্ক ও ক্লাউড বিলের তথ্য এবং বিক্রেতার পণ্যের হালনাগাদের বিপরীতে যাচাই করুন। আপনার আগে থেকে থাকা টুলে গাঁথা এআই ফিচার অন্তর্ভুক্ত করুন। চমকের জন্য প্রস্তুত থাকুন: মানুষ আপনার অনুমোদন না করা টুল ব্যবহার করে, প্রায়ই ভালো কারণে। এগুলোকে তথ্য হিসেবে ধরুন (বিষয় 7.2, সফটওয়্যার সম্পদ ও লাইসেন্সের মেট্রিক দেখুন)।

2. প্রতিটি ব্যবহারে একজন মালিক ও একটি ঝুঁকির শ্রেণি দিন। মালিক ব্যবহার ও তার ফলের জন্য দায়ী ব্যক্তি। ঝুঁকির শ্রেণি ব্যবস্থা ব্যর্থ হলে ক্ষতি প্রতিফলিত করে: কারা প্রভাবিত, মানুষ সম্পর্কে সিদ্ধান্ত জড়িত কি না, সে নিজে কাজ করে কি না, কোন তথ্য ছোঁয় এবং প্রভাব কতটা উল্টানো যায়। স্পষ্ট নিয়মসহ কম শ্রেণি ব্যবহার করুন। NIST এআই ঝুঁকি ব্যবস্থাপনা কাঠামো, ISO/IEC 42001 এবং প্রযোজ্য আইনের মতো স্বীকৃত কাঠামো থেকে নিন এবং আপনার প্রেক্ষাপটে মানিয়ে নিন।

3. অনুমোদন অনুপাতিক করুন। কম ঝুঁকির ব্যবহারে কয়েকটি প্রশ্নসহ একটি দ্রুত সেলফ-সার্ভিস নিবন্ধনই যথেষ্ট। পরিণতিময় ব্যবহারে একটি ঝুঁকি মূল্যায়ন, মূল্যায়নের ফল, একটি সংজ্ঞায়িত মানুষের তত্ত্বাবধানের নকশা এবং অনুমোদন দাবি করুন। নিরাপদ সংখ্যাগরিষ্ঠের জন্য একটি দ্রুত পথ মানুষকে ব্যবস্থার ভেতরে রাখে, আর বিপজ্জনক অল্প কয়েকটির জন্য ধীরতর পথ তাদের যথাযথ পরীক্ষা দেয়।

পরীক্ষা ও পরিবর্তন নিয়ন্ত্রণ করুন

4. ব্যবহারের আগে ও চলাকালে বাস্তবসম্মত ক্ষেত্রে মূল্যায়ন করুন। প্রকৃত ইনপুট প্রতিফলিত করা, কঠিন ও প্রতিপক্ষমূলক ক্ষেত্রসহ, পরীক্ষার ক্ষেত্রের একটি সংগ্রহ বানান এবং আউটপুট লিখিত মানদণ্ডের বিপরীতে স্কোর করুন। যেখানে মানুষ প্রভাবিত হতে পারে সেখানে নিরাপত্তা ও ন্যায্যতার যাচাই অন্তর্ভুক্ত করুন। একটি সময়সূচিতে এবং মডেল, প্রম্পট বা তথ্য বদলালেই মূল্যায়ন আবার চালান। একটি রেড টিম, যে গোষ্ঠী দুর্বলতা খুঁজতে ইচ্ছাকৃতভাবে ব্যবস্থা আক্রমণ করে, উচ্চতর ঝুঁকির ব্যবহারে একটি উপযোগী চর্চা। সহায়তাপ্রাপ্ত কাজের নমুনা চর্চা দেখুন (বিষয় 10.2, এআই-সহায়তাপ্রাপ্ত কাজের পরিমাপ দেখুন)।

5. মডেল, প্রম্পট ও টুল পরিবর্তন নিয়ন্ত্রণের অধীনে রাখুন। প্রম্পট ও কনফিগারেশনের সংস্করণ কোডের মতো রাখুন। পরিবর্তনের জন্য ঝুঁকির অনুপাতে পরীক্ষা ও অনুমোদন দাবি করুন, সেগুলো লিপিবদ্ধ করুন এবং ফেরত নেওয়ার সামর্থ্য রাখুন। বিক্রেতা-চালিত মডেলের হালনাগাদ ট্র্যাক করুন, যা বিজ্ঞপ্তি ছাড়া আচরণ বদলাতে পারে, এবং সরবরাহকারীদের সঙ্গে ঠিক করুন আপনাকে কীভাবে জানানো হবে। একটি মডেল আপগ্রেডকে নিয়ন্ত্রণ দরকার এমন পরিবর্তন ধরুন (বিষয় 4.3, পরিবর্তন সক্ষমকরণের মেট্রিক দেখুন)।

6. উৎপাদনে নজর রাখুন। ইনপুট ও আউটপুটের ড্রিফট, বাড়তে থাকা ভুল ও অগ্রাহ্যের হার এবং অস্বাভাবিক ধরন দেখুন। পর্যালোচনা শুরু করার সীমা ঠিক করুন। যে ব্যবস্থা পদক্ষেপ নেয় তার জন্য পদক্ষেপের লগ নজরে রাখুন। পরীক্ষা যে সমস্যা ফসকেছে তা খুঁজে পাওয়ার উপায় পর্যবেক্ষণ।

মানুষের তত্ত্বাবধান বাস্তব রাখুন

7. কাজ করতে পারে এমন তত্ত্বাবধানের নকশা করুন। একটি দ্রুত ব্যবস্থার প্রতিটি আউটপুট পর্যালোচনা করা একজন মানুষ তাল রাখতে পারেন না, আর যা বোঝেন না তা অনুমোদন করতে বলা মানুষ তত্ত্বাবধান দিচ্ছেন না। মানুষ কী করেন, কোন তথ্য আছে, কতটা সময় এবং অগ্রাহ্য করার কী ক্ষমতা সংজ্ঞায়িত করুন। পর্যালোচনা সারবান কি না যাচাই করতে নমুনা নিন। স্বয়ংক্রিয়করণের পক্ষপাত, মেশিনের আউটপুট মেনে নেওয়ার প্রবণতা, সম্পর্কে সতর্ক থাকুন (বিষয় 10.1, সেবা ব্যবস্থাপনার পরিমাপে এআই দেখুন)।

8. নিরীক্ষার ছাপ রাখুন। গোপনীয়তার নিয়ম ও সংরক্ষণের সীমা মেনে তদন্ত সমর্থন করে এমনভাবে ইনপুট, আউটপুট, সংস্করণ, সিদ্ধান্ত ও পদক্ষেপ লিপিবদ্ধ করুন। একটি নিরীক্ষার ছাপ (audit trail) আপনাকে কী ঘটেছিল এবং কেন উত্তর দিতে দেয়। মানুষ সম্পর্কে পরিণতিময় সিদ্ধান্তে কী ব্যাখ্যা দিতে পারেন এবং কোন আপিলের পথ আছে ভেবে দেখুন (বিষয় 8.3, সম্মতি ও নিরীক্ষার মেট্রিক দেখুন)।

9. তথ্য রক্ষা করুন এবং কারসাজি প্রতিরোধ করুন। এআই ব্যবস্থা কোন তথ্য দেখতে ও পাঠাতে পারে নিয়ন্ত্রণ করুন। প্রম্পট ইনজেকশন ও তথ্য ফাঁসের জন্য পরীক্ষা করুন, বিশেষত যে ব্যবস্থা বাইরের বিষয়বস্তু পড়ে বা টুলে প্রবেশাধিকার রাখে। কাজ করা এজেন্টের জন্য ব্যবহৃত ন্যূনতম-বিশেষাধিকারের নীতি প্রয়োগ করুন (বিষয় 10.3, এআই এজেন্ট ও চ্যাটবটের মেট্রিক এবং বিষয় 8.1, নিরাপত্তা ইনসিডেন্ট ও দুর্বলতার মেট্রিক দেখুন)। নকশার সময় গোপনীয়তা বিবেচনা করুন এবং তথ্য সুরক্ষার বিশেষজ্ঞদের জড়ান।

সাড়া দিন ও শিখুন

10. এআই ইনসিডেন্টকে ইনসিডেন্ট ধরুন। কী গণ্য হবে সংজ্ঞায়িত করুন: ক্ষতিকর বা পক্ষপাতদুষ্ট আউটপুট, তথ্য প্রকাশ, অনিরাপদ পদক্ষেপ, ব্যবহারকারীদের কাছে পৌঁছানো উল্লেখযোগ্য ভুল। এআই ট্যাগসহ আপনার স্বাভাবিক ইনসিডেন্ট প্রক্রিয়া ব্যবহার করুন, দোষারোপ ছাড়া পর্যালোচনা করুন এবং শিক্ষা মূল্যায়ন ও নিয়ন্ত্রণে ফেরত দিন। কর্মী ও ব্যবহারকারীদের জন্য প্রতিবেদন সহজ করুন। যেকোনো ইনসিডেন্টের মতোই ধারণের সময় গুরুত্বপূর্ণ (বিষয় 3.4, বড় ইনসিডেন্টের মেট্রিক দেখুন)।

11. সরবরাহকারীদের এআই পরিচালনা করুন। সরবরাহকারীদের জিজ্ঞাসা করুন তারা কোন এআই ফিচার ব্যবহার করে, সেগুলো কীভাবে পরীক্ষিত ও বদলানো হয়, তথ্য কীভাবে সামলানো হয় এবং ইনসিডেন্ট কীভাবে জানানো হয়। যেখানে গুরুত্বপূর্ণ সেখানে চুক্তিতে এআই-নির্দিষ্ট শর্ত যোগ করুন, মডেলে উল্লেখযোগ্য বদলের বিজ্ঞপ্তিসহ। একটি চক্রে গুরুত্বপূর্ণ সরবরাহকারীদের আবার মূল্যায়ন করুন (বিষয় 8.4, সরবরাহকারী ও চুক্তির মেট্রিক দেখুন)।

12. গভর্ন্যান্স নিজেই পর্যালোচনা করুন। প্রতি ত্রৈমাসিকে পরিমাপ কী দেখাচ্ছে যাচাই করুন: কোথায় ব্যবহার অনিবন্ধিত থেকেছে, কোন অনুমোদন খুব ধীর ছিল, কোন নিয়ন্ত্রণ সমস্যা ধরেনি। নীতি ও পথ সমন্বয় করুন। পর্যালোচনায় কর্মী ও ব্যবহারকারীদের জড়ান। নিয়ম ছোট, স্পষ্ট ও হালনাগাদ রাখুন, এবং নিজের খরচের যোগ্য নয় এমন নিয়ন্ত্রণ অবসর দিন।

কারসাজির উপায় ও রক্ষাবেষ্টনী

মেট্রিক যেভাবে কারসাজি হয় জোড়া রক্ষাবেষ্টনী মেট্রিক বা চর্চা
এআই ব্যবহার নিবন্ধনের আচ্ছাদন শতাংশ বাড়াতে তুচ্ছ ব্যবহার নিবন্ধন; হর নিবন্ধিত যা তাতে সীমিত হরের জন্য স্বাধীন আবিষ্কার; গুণমানের জন্য নিবন্ধনের এন্ট্রির নমুনা; অনিবন্ধিত ব্যবহারের জন্য ক্ষমা
ঝুঁকি মূল্যায়নের হালনাগাদ থাকা সবসময় পাস করা হালকা মূল্যায়ন; কম ঝুঁকির ব্যবহার মূল্যায়ন মূল্যায়নের গভীরতা পর্যালোচনা; ঝুঁকির শ্রেণি মানদণ্ডের সঙ্গে মেলে কি না যাচাই
পরিবর্তন নিয়ন্ত্রণের আচ্ছাদন বিক্রেতার বদল শনাক্ত না করা; পরিবর্তন ঘটনার পরে লিপিবদ্ধ সংস্করণের ইতিহাস ও বিক্রেতার বিজ্ঞপ্তির মাধ্যমে শনাক্ত; রিলিজের আগে টাইমস্ট্যাম্পযুক্ত পরিবর্তনের রেকর্ড
মূল্যায়নের হালনাগাদ থাকা সহজ ক্ষেত্রে মূল্যায়ন; ফল দেখার পর সহনসীমা বাছা স্বাধীন পক্ষ দ্বারা পর্যালোচিত পরীক্ষার সেট; আগে ঠিক করা সীমা
মানুষের তত্ত্বাবধানের প্রমাণের হার না পড়েই অনুমোদন চাপা; ফল বদলাতে পারত না এমন পর্যালোচনা নথিভুক্ত করা সারবস্তুর জন্য পর্যালোচনার নমুনা; বসানো জানা ভুল; পর্যালোচকের বোঝা
এআই ইনসিডেন্টের হার ও ধারণের সময় ইনসিডেন্ট প্রতিবেদন না করা; সংজ্ঞা সংকীর্ণ করা সহজ, দোষারোপহীন প্রতিবেদন; ব্যবহারকারীর অভিযোগ ও নিরীক্ষার পর্যবেক্ষণের সঙ্গে তুলনা
সরবরাহকারীর এআই যথাযথ যাচাইয়ের হালনাগাদ থাকা বিপণন বিভাগের উত্তর দেওয়া প্রশ্নমালা; প্রমাণ ছাড়া মূল্যায়ন গুরুত্বপূর্ণ সরবরাহকারীর জন্য প্রমাণের দাবি; স্বাধীন যাচাই

একটি সুস্থ পাঠ হলো স্বাধীন আবিষ্কার যা নিশ্চিত করে এমন একটি নিবন্ধন, ঝুঁকির সঙ্গে মেলে এমন মূল্যায়ন, নিয়ন্ত্রণের মধ্য দিয়ে যাওয়া পরিবর্তন, হালনাগাদ রাখা মূল্যায়ন, প্রকৃত ভুল খুঁজে পাওয়া তত্ত্বাবধান, সহজে প্রতিবেদিত ও দ্রুত ধারণ করা ইনসিডেন্ট, এবং যা বদলায় তা ভাগ করা সরবরাহকারী।

ভারসাম্য: সুবিধা ও অসুবিধা

পদ্ধতি শক্তি দুর্বলতা
প্রতিটি এআই ব্যবহারে কেন্দ্রীয় অনুমোদন নিয়ন্ত্রণ, সামঞ্জস্য ধীর; ব্যবহার আড়ালে ঠেলে
ঝুঁকির স্তরসহ সেলফ-সার্ভিস নিবন্ধন নিরাপদ সংখ্যাগরিষ্ঠের জন্য দ্রুত ভালো মানদণ্ড ও আকস্মিক যাচাই লাগে
সর্বজনীন টুলে নিষেধাজ্ঞা তথ্য প্রকাশ কমায় ছায়া ব্যবহার; হারানো সুবিধা
নির্দেশনাসহ অনুমোদিত টুল দৃশ্যমান ও পরিচালনাযোগ্য ব্যবহার জোগান ও সহায়তা লাগে
ভারী নথি নিরীক্ষার প্রমাণ বোঝা; চর্চা প্রতিফলিত না-ও করতে পারে
পাইপলাইনে স্বয়ংক্রিয় মূল্যায়ন নিরন্তর, সামঞ্জস্যপূর্ণ ভালো পরীক্ষার সেট লাগে; নতুন ব্যর্থতা ফসকাতে পারে
সবকিছুর মানুষের পর্যালোচনা নিরাপত্তা পরিসরে মাপে না; ক্লান্তি
ঝুঁকিভিত্তিক নমুনা ব্যবহারিক কিছু ব্যর্থতা পিছলে যায়

ব্যবহারিক উত্তর হলো অনুমোদিত টুল এবং কম ঝুঁকির ব্যবহারে একটি দ্রুত পথ দেওয়া, পরিণতিময় ব্যবহারে পরীক্ষা কেন্দ্রীভূত করা, মূল্যায়ন ও পর্যবেক্ষণ স্বয়ংক্রিয় করা, এবং মানুষের তত্ত্বাবধান সেখানে রাখা যেখানে তা সত্যিই কাজ করতে পারে।

দলের সঙ্গে আলোচনার প্রশ্ন

1. আজ আমরা কোথায় এআই ব্যবহার করি যা কোনো তালিকায় নেই? দলকে সৎভাবে জিজ্ঞাসা করুন এবং ক্ষমা দিন। খসড়া, সারসংক্ষেপ, কোডিং ও বিশ্লেষণে ব্যবহৃত টুল, পণ্যের ভেতরের টুলসহ, দেখুন। সঞ্চালক বিচার ছাড়া ব্যবহার লিপিবদ্ধ করুন। কে সেগুলো নিবন্ধন করবেন এবং কোনগুলো আরও ঘনিষ্ঠভাবে দেখা দরকার তাতে একমত হোন।

2. আমাদের সবচেয়ে পরিণতিময় এআই ব্যবহার একটি ক্ষতিকর ভুল করলে আমরা কীভাবে জানতাম এবং কী করতাম? শনাক্তকরণ, ধারণ, যোগাযোগ ও শেখার ধাপগুলো ধরে এগোন। পর্যবেক্ষণ, মালিকানা এবং এটি বন্ধ করার কর্তৃত্বের ফাঁক লক্ষ করুন। একটি উন্নতিতে একমত হোন।

3. কেউ অনুমোদন না করেই আমাদের নিচে কী বদলাতে পারে? মডেল, প্রম্পট, তথ্যের উৎস ও বিক্রেতার হালনাগাদ তালিকা করুন। প্রতিটির জন্য জিজ্ঞাসা করুন বদলেছে আমরা কীভাবে জানতাম এবং কীভাবে পরীক্ষা করতাম। কোথায় শনাক্তকরণ বা পরীক্ষা যোগ করবেন তাতে একমত হোন।

4. আমাদের প্রক্রিয়ায় এআই আউটপুট পর্যালোচনা করা ব্যক্তি কি বাস্তবসম্মতভাবে একটি গুরুতর ভুল ধরতে পারতেন? পরিমাণ, তথ্য, সময় ও কর্তৃত্ব দেখুন। একটি বসানো ভুল দিয়ে পরীক্ষা করুন। পর্যালোচনা কাজ না করলে আরও এআই যোগের আগে প্রক্রিয়া নতুন করে নকশা করুন।

5. আমাদের কোন নিয়ম একজন ব্যস্ত সহকর্মী অনুসরণ করা সহজ পাবেন, এবং কোনগুলো এড়িয়ে যাবেন? বর্তমান নিয়ম তালিকা করুন এবং প্রকৃত কাজের প্রবাহের বিপরীতে পরীক্ষা করুন। নিয়ম কেন এড়ানো হয় আলোচনা করুন। নিরাপদ পথকে সহজ পথ করে এমন পরিবর্তনে একমত হোন।

6. আমাদের সরবরাহকারীরা তাদের এআই সম্পর্কে আমাদের কী বলেছে, এবং আমরা কী জিজ্ঞাসা করিনি? সাম্প্রতিক প্রশ্নমালা ও চুক্তি দেখুন। এআই ফিচারসহ গুরুত্বপূর্ণ সরবরাহকারী এবং তথ্যের ফাঁক চিহ্নিত করুন। পরের পর্যালোচনার প্রশ্নে একমত হোন।

চারটি দৃষ্টিভঙ্গি

পণ্য ও ডেলিভারি দল

ডেলিভারি দল এআই ফিচার বানায় ও গ্রহণ করে, এবং গভর্ন্যান্সকে ঘর্ষণ বা সাহায্য হিসেবে অনুভব করে। তাদের শুরুতেই ব্যবহার নিবন্ধন করা, বাস্তবসম্মত ক্ষেত্রে পরীক্ষা করা, প্রম্পট ও মডেল সংস্করণ নিয়ন্ত্রণে রাখা এবং কাজ করে এমন তত্ত্বাবধান নকশা করা উচিত। কম ঝুঁকির ব্যবহারে দ্রুত অনুমোদন তাদের উপকার করে।

সেবা ও পরিচালন দল

পরিচালন দল উৎপাদনে এআই চালায় এবং তার ইনসিডেন্টে সাড়া দেয়। তাদের ড্রিফটের জন্য নজর রাখা, পদক্ষেপের লগ রাখা, এআই ইনসিডেন্ট ট্যাগ করা, এবং একটি ব্যবস্থা বন্ধ করার কর্তৃত্ব ও উপায় থাকা উচিত। তারা নিজেরাও এআই ব্যবহার করে এবং একই নিয়ম অনুসরণ করা উচিত।

নেতৃত্ব ও গভর্ন্যান্স

নেতারা ঝুঁকির ক্ষুধা ঠিক করেন এবং ফলের জন্য জবাবদিহি করেন। তাঁদের নিবন্ধন, মূল্যায়ন ও পর্যবেক্ষণে অর্থায়ন করা, মেনে নেওয়া যে কিছু এআই ব্যবহার পাস করবে না, ব্যবহারের স্বাধীন আবিষ্কার চাওয়া এবং ইনসিডেন্ট ও ধারণের সময় ট্র্যাক করা উচিত। গভর্ন্যান্স সংস্থাগুলোর নিয়ম ছোট রাখা, নিয়মিত পর্যালোচনা করা এবং কর্মী ও ব্যবহারকারীদের মত নিশ্চিত করা উচিত।

গ্রাহক ও ব্যবহারকারী

ব্যবহারকারীরা এআইয়ের সিদ্ধান্ত ও আউটপুটে প্রভাবিত হন, প্রায়ই না জেনে। তাঁদের প্রাপ্য জানা যে তাঁদের প্রভাবিত করা বিষয়ে এআই জড়িত, একজন মানুষের কাছে পৌঁছানো এবং সিদ্ধান্তে আপত্তি জানানো। অভিযোগ ও আপিল গভর্ন্যান্স বাস্তবে কীভাবে কাজ করে তার অপরিহার্য প্রমাণ।

বাস্তবে: সেবা ব্যবস্থাপনার একটি উদাহরণ

একটি আঞ্চলিক ব্যাংকের প্রযুক্তি ও পরিচালনা বিভাগ একজন কর্মী গ্রাহকের বিবরণ একটি সর্বজনীন টুলে পেস্ট করার পর একটি এআই নীতি গ্রহণ করে। সম্মতি দল একটি নিবন্ধন প্রকাশ করে এবং প্রতিটি ব্যবহার তালিকাভুক্ত হবে আশা করে। নিচের সংখ্যা দৃষ্টান্তমূলক।

তিন মাস পরে নিবন্ধনে ৩৮টি এআই ব্যবহার তালিকাভুক্ত। প্রযুক্তি ঝুঁকির প্রধান স্বাধীন উপায়ে যাচাই করেন: ক্রয় ও ব্যয়ের তথ্য, এআই সেবায় সাইন-ইন দেখানো পরিচয়ের লগ, নেটওয়ার্কের তথ্য এবং একটি নামহীন কর্মী জরিপ। আবিষ্কারে ৯৪টি ব্যবহার পাওয়া যায়, তাই নিবন্ধনের আচ্ছাদন ৪০ শতাংশ। সতেরোটি ব্যাংকের ইতিমধ্যে লাইসেন্স করা টুলের ভেতরের ফিচার, এবং বারোটি কর্মীদের ব্যবহার করা সর্বজনীন টুল। নিবন্ধিত ৩৮টি ব্যবহারের মধ্যে মাত্র ১৪টির ঝুঁকির শ্রেণি আছে, এবং সবচেয়ে বেশি ঝুঁকির তিনটি, জালিয়াতির সতর্কবার্তায় স্কোর দেওয়া একটি মডেল, গ্রাহকদের জন্য একটি চ্যাটবট এবং অভিযোগের সারসংক্ষেপ করা একটি টুল, গত এক বছরে কোনো মূল্যায়ন হয়নি। জালিয়াতির মডেলের কনফিগারেশন এবং চ্যাটবটের প্রম্পটের পরিবর্তন দলগুলো সরাসরি করে, এবং গত ত্রৈমাসিকের পরিবর্তনের রেকর্ড সংস্করণের ইতিহাসে পাওয়া পরিবর্তনের ২১ শতাংশ ঢাকে। মডেলের খারিজ করা ৬০টি জালিয়াতির সতর্কবার্তার একটি নমুনা তাদের ৫২টিতে মানুষের পর্যালোচনা লিপিবদ্ধ দেখায়, কিন্তু পাঁচটি জানা ভুল বসিয়ে একটি সেটে মাত্র একজন পর্যালোচক ধরেছেন, কারণ পর্যালোচকেরা প্রত্যেকে দিনে কয়েকশো সতর্কবার্তা সামলান। একটি ইনসিডেন্ট, যেখানে চ্যাটবট গ্রাহকদের একটি পুরোনো ফির পরিমাণ দিয়েছিল, একটি অভিযোগ থেকে ধরা পড়ে, এবং ধারণে ছয় দিন লাগে কারণ এটি বন্ধ করার কর্তৃত্ব কারও ছিল না।

প্রযুক্তি ঝুঁকির প্রধান দলগুলোর সঙ্গে গভর্ন্যান্স নতুন করে নকশা করেন। পাঁচটি প্রশ্নের একটি সংক্ষিপ্ত সেলফ-সার্ভিস নিবন্ধন কম ঝুঁকির ব্যবহার মিনিটে নিবন্ধনে আনে, এবং একটি ক্ষমার সময় কর্মীদের তাঁদের ব্যবহার করা টুল তালিকাভুক্ত করতে উৎসাহ দেয়। ঝুঁকির শ্রেণি ক্ষতি, তথ্য ও স্বায়ত্তশাসনের ওপর ভিত্তি করে। উচ্চতর ঝুঁকির ব্যবহারে একটি মূল্যায়ন, বাস্তবসম্মত ও প্রতিপক্ষমূলক ক্ষেত্রের বিপরীতে একটি মূল্যায়ন এবং একটি সংজ্ঞায়িত তত্ত্বাবধানের নকশা লাগে। মডেল, প্রম্পট ও টুল ঝুঁকির অনুপাতে পরীক্ষাসহ পরিবর্তন নিয়ন্ত্রণে আসে, এবং চ্যাটবটের প্রম্পট ফেরত নেওয়ার ব্যবস্থাসহ সংস্করণযুক্ত হয়। জালিয়াতির সতর্কবার্তা প্রক্রিয়া এমনভাবে নতুন করে নকশা হয় যে পর্যালোচকেরা কম, ভালো অগ্রাধিকার পাওয়া সতর্কবার্তা সামলান, এবং বসানো ভুল তাঁদের শনাক্তকরণ পরীক্ষা করে। প্রতিটি উচ্চ ঝুঁকির ব্যবহারের একজন নামধারী মালিকের এটি বন্ধ করার কর্তৃত্ব আছে, এবং ইনসিডেন্ট সাড়া এআই ঢাকে। ব্যাংকের ক্লাউড ও এআই সরবরাহকারীদের জিজ্ঞাসা করা হয় তারা কোন এআই ফিচার ব্যবহার করে এবং পরিবর্তন কীভাবে জানায়।

দুই ত্রৈমাসিক পরে স্বাধীন আবিষ্কারে নিবন্ধনের আচ্ছাদন ৮৮ শতাংশ, সব উচ্চ ঝুঁকির ব্যবহার চক্রের মধ্যে মূল্যায়িত, পরিবর্তন নিয়ন্ত্রণের আচ্ছাদন ৮৪ শতাংশ, পর্যালোচকদের বসানো ভুল শনাক্তকরণ ৫-এর মধ্যে ৪-এ ওঠে, এবং একটি এআই ইনসিডেন্ট ধারণের মধ্যমান সময় ৩ ঘণ্টা। কর্মীরা বেশিরভাগ কাজে অনুমোদিত টুল ব্যবহার করেন। একজন জ্যেষ্ঠ নির্বাহী নিবন্ধনের আচ্ছাদন ১০০ শতাংশের লক্ষ্য চান। প্রযুক্তি ঝুঁকির প্রধান স্বাধীন আবিষ্কারের বিপরীতে আচ্ছাদন, মূল্যায়নের হালনাগাদ থাকা এবং ইনসিডেন্ট পরিচালনা ট্র্যাক করার প্রস্তাব করেন, এবং ব্যাখ্যা করেন আবিষ্কার ছাড়া একটি নিবন্ধন ১০০ শতাংশে পৌঁছেও ঝুঁকি ফসকাতে পারে। সিদ্ধান্ত লিপিবদ্ধ হয়।

এজাইল, এআই, অটোমেশন ও বিশ্লেষণ

এজাইল

একবারের অনুমোদনের বদলে একটি হালকা, নিয়মিত পর্যালোচনা ও টেবিলে অংশীজনদের নিয়ে এআইকে একটি চালু সেবার পরিবর্তন হিসেবে পরিচালনা করুন। সতর্কতা হলো, ভারী অনুমোদনের দরজা দলগুলোকে এআই ব্যবহার লুকাতে বাধ্য করে।

এআই

প্রতিটি এআই ব্যবহারের একটি নিবন্ধন রাখুন একজন মালিক, একটি ঝুঁকির শ্রেণি, একটি মূল্যায়নের তারিখ এবং মানুষের তত্ত্বাবধানের একটি বিন্দুসহ, এবং স্বাধীন আবিষ্কারের বিপরীতে আচ্ছাদন মাপুন। পরীক্ষা করুন যে তত্ত্বাবধান প্রয়োগ করা যায়। সতর্কতা হলো, এই বই আইনি পরামর্শ দেয় না, এবং দায়িত্ব জায়গাভেদে ও সময়ের সঙ্গে বদলায়, তাই আপনার নিজের আইনি উপদেষ্টার সঙ্গে যাচাই করুন।

অটোমেশন

মডেল, প্রম্পট ও তথ্যের পরিবর্তনের আবিষ্কার ও প্রমাণ সংগ্রহ স্বয়ংক্রিয় করুন, এবং স্বয়ংক্রিয়করণ ফসকানো পরিবর্তনে মাপুন। সতর্কতা হলো, স্বয়ংক্রিয় মূল্যায়নের সেট যা পরীক্ষা করতে বানানো তাই পরীক্ষা করে, তাই ব্যর্থতা দেখা দিলে নতুন পরীক্ষা যোগ করুন।

বিশ্লেষণ

তারিখ ও গণনাসহ মূল্যায়নের হালনাগাদ থাকা প্রতিবেদন করুন। এটি যে সিদ্ধান্তে তথ্য জোগায় তা হলো তত্ত্বাবধান কোথায় পাতলা। সতর্কতা হলো, এআইয়ের ইনসিডেন্ট গণনা ছোট ও অসম, তাই তা নিয়ার-মিস প্রতিবেদনের সঙ্গে মেলান।

খাতভিত্তিক দৃষ্টিকোণ

স্টার্টআপ। গতি গুরুত্বপূর্ণ আর ঝুঁকি মূলত তথ্য প্রকাশ ও অনির্ভরযোগ্য আউটপুট। মালিকসহ টুল ও ব্যবহারের একটি সংক্ষিপ্ত তালিকা রাখুন, কোথায় কোন তথ্য ব্যবহার করা যাবে তার কয়েকটি স্পষ্ট নিয়ম ঠিক করুন এবং প্রম্পটের সংস্করণ রাখুন। আশ্বাসের জন্য গ্রাহকদের দাবি বাড়লে আবার দেখুন।

ছোট ব্যবসা। কর্মীরা সর্বজনীন টুল ব্যবহার করবেন। একটি অনুমোদিত বিকল্প দিন, তথ্য নিয়ে এক পাতার একটি নিয়ম লিখুন এবং টুল কীভাবে ব্যবহৃত হয় পর্যালোচনা করুন। সরবরাহকারীদের তাদের এআই ফিচার সম্পর্কে জিজ্ঞাসা করুন, এবং যেখানে এআই গ্রাহক বা কর্মীদের সম্পর্কে সিদ্ধান্ত নেয় তার রেকর্ড রাখুন।

এন্টারপ্রাইজ। আকারে একটি পরিচালন মডেল লাগে: নিবন্ধন, ঝুঁকির স্তর, মূল্যায়নের মান, পরিবর্তন নিয়ন্ত্রণ এবং ইনসিডেন্ট প্রক্রিয়া, বিদ্যমান ঝুঁকি ও নিরাপত্তা কাজের সঙ্গে সমন্বিত। স্বাধীন আবিষ্কার ব্যবহার করুন, পাইপলাইনে মূল্যায়ন স্বয়ংক্রিয় করুন এবং মানের সঙ্গে সারিবদ্ধ হোন। দলগুলোকে একটি দ্রুত পথ দিন।

সরকার ও জনসেবা খাত। নাগরিকদের প্রভাবিত করা সিদ্ধান্ত স্বচ্ছতা, ন্যায্যতা ও আপিলের দায়িত্ব আনে, এবং ক্রয় ও আইনি কাঠামো কী অনুমোদিত তা গড়ে। যেখানে প্রয়োজন সেখানে উচ্চ প্রভাবের ব্যবহারের সর্বজনীন রেকর্ড রাখুন, অধিকারের ওপর প্রভাব মূল্যায়ন করুন, মানুষকে অর্থপূর্ণভাবে চক্রে রাখুন এবং বর্তমান আইন ও নির্দেশনা যাচাই করুন (বিষয় 8.5, নিয়ন্ত্রক ও সরকারি প্রতিবেদন দেখুন)।

ব্যবসায়িক যুক্তি: প্রেরণা, ROI ও TCO

খরচের মধ্যে আছে নিবন্ধন বানাতে ও রক্ষণাবেক্ষণে শ্রম, আবিষ্কারের টুলিং বা বিশ্লেষণ, ঝুঁকি মূল্যায়ন, মূল্যায়নের সেট ও চালানো, প্রম্পট ও মডেলের পরিবর্তন নিয়ন্ত্রণ, পর্যবেক্ষণ, প্রশিক্ষণ এবং ইনসিডেন্ট সাড়ার সামর্থ্য। গভর্ন্যান্স উচ্চতর ঝুঁকির ব্যবহারে কিছু বিলম্বও যোগ করে। এসব খরচ ব্যবহারের সংখ্যা ও ঝুঁকির সঙ্গে মাপে বাড়ে, যা কম ঝুঁকির অনুমোদন হালকা রাখার একটি কারণ।

প্রতিদানের মধ্যে আছে এড়ানো ক্ষতি ও প্রকাশ, নিরীক্ষা ও নিয়ন্ত্রক পর্যালোচনায় কম চমক, স্পষ্ট নিয়মে দ্রুততর নিরাপদ গ্রহণ এবং গ্রাহক ও কর্মীদের আস্থা। নিজের তথ্য থেকে যুক্তি গড়ুন: নিবন্ধনের বাইরে পাওয়া ব্যবহারের সংখ্যা ও তারা যে তথ্য ছোঁয়, ইনসিডেন্ট ও তাদের খরচ, আগে ও পরে তদর্থ অনুমোদনে ব্যয় হওয়া সময় এবং নিরীক্ষার পর্যবেক্ষণ। এআই ইনসিডেন্ট বা জরিমানা সম্পর্কে প্রকাশিত পরিসংখ্যান খুঁজে পাওয়া যায় এমন উৎস ও আপনার প্রেক্ষাপটে প্রাসঙ্গিকতা ছাড়া উদ্ধৃত করা এড়ান। গভর্ন্যান্স না করার খরচ অন্তর্ভুক্ত করুন, যার মধ্যে উল্লেখযোগ্য আইনি ও সুনামের ক্ষতির সম্ভাবনা আছে (বিষয় 7.7, বিনিয়োগে প্রতিদান ও ব্যবসায়িক যুক্তি দেখুন)।

অ্যান্টি-প্যাটার্ন ও ফাঁদ

  • কেউ যাচাই করে না এমন নিবন্ধন। আচ্ছাদন বেশি দেখায় আর প্রকৃত ব্যবহার ফসকায়। স্বাধীন আবিষ্কার ব্যবহার করুন।
  • সার্বিক নিষেধাজ্ঞা। এগুলো ব্যবহার আড়ালে ঠেলে। অনুমোদিত টুল ও একটি দ্রুত পথ দিন।
  • প্রম্পট ও মডেলকে কনফিগারেশন ধরা যার মালিক কেউ নেই। আচরণ অলক্ষ্যে বদলায়। এগুলো পরিবর্তন নিয়ন্ত্রণের অধীনে রাখুন।
  • একবার মূল্যায়ন। ব্যবস্থা সরে ও বদলায়। সময়সূচিতে এবং পরিবর্তনে আবার চালান।
  • নামসর্বস্ব তত্ত্বাবধান। পর্যালোচকেরা যা দেখতে পান না তা ধরতে পারেন না। বসানো ভুল দিয়ে পরীক্ষা করুন এবং বোঝা ঠিক করুন।
  • বন্ধ করার কর্তৃত্ব নেই। ধারণে কয়েক দিন লাগে। একটি ব্যবস্থা থামানোর ক্ষমতাসহ মালিকদের নাম দিন।
  • সরবরাহকারীর এআই উপেক্ষা। আপনার ঝুঁকিতে তাদেরও অন্তর্ভুক্ত। জিজ্ঞাসা করুন, চুক্তি করুন ও আবার মূল্যায়ন করুন।
  • কেউ অনুসরণ করতে পারে না এমন নিয়ম। সেগুলো এড়ানো হয়। ছোট রাখুন এবং নিরাপদ পথ সহজ করুন।

পরিপক্বতার মডেল

মাত্রা 1 সূচনা 2 বিকাশ 3 মানসম্মত 4 পরিচালিত 5 সুসমন্বিত
জানা ও শ্রেণিবদ্ধ করা এআই ব্যবহারের কোনো দৃষ্টি নেই নীতি ও একটি আংশিক তালিকা মালিক ও ঝুঁকির শ্রেণিসহ নিবন্ধন; আচ্ছাদনের জন্য স্বাধীন আবিষ্কার ব্যবহৃত আচ্ছাদন, মূল্যায়নের হালনাগাদ থাকা ও অনুমোদনের সময় পরিচালিত ব্যবসায়িক ইউনিট ও সরবরাহকারী জুড়ে ভাগ করা নিবন্ধনের দৃষ্টি; নিয়ন্ত্রক ও ব্যবহারকারীদের সঙ্গে শ্রেণি পর্যালোচিত
পরীক্ষা ও পরিবর্তন তদর্থ কিছু ব্যবহারে কিছু মূল্যায়ন বাস্তবসম্মত ক্ষেত্রে মূল্যায়ন; প্রম্পট ও মডেল পরিবর্তন নিয়ন্ত্রণের অধীনে নিরন্তর মূল্যায়ন ও ড্রিফট পর্যবেক্ষণ; আচ্ছাদন পরিচালিত পাইপলাইনে স্বয়ংক্রিয়, ঝুঁকিভিত্তিক মূল্যায়ন ও পরিবর্তন, স্বাধীনভাবে নিরীক্ষিত
তত্ত্বাবধান ও শেখা আস্থার ওপর নির্ভরতা নীতিগতভাবে পর্যালোচনা আছে তত্ত্বাবধান নকশা ও নমুনা করা; এআই ইনসিডেন্ট ট্যাগ ও দোষারোপহীন পর্যালোচনা বসানো ভুলের পরীক্ষা, ধারণের সময় ও সরবরাহকারীর মূল্যায়ন পরিচালিত কর্মী, ব্যবহারকারী ও অংশীদারদের সঙ্গে তত্ত্বাবধান, ইনসিডেন্টের শিক্ষা ও নীতি সহ-বিকশিত

চেকলিস্ট

  • একটি নিবন্ধন এআই ব্যবহার মালিক ও ঝুঁকির শ্রেণিসহ তালিকাভুক্ত করে, স্বাধীন আবিষ্কারের বিপরীতে যাচাই করা।
  • কম ঝুঁকির ব্যবহারের জন্য একটি দ্রুত পথ এবং পরিণতিময় ব্যবহারের জন্য একটি গভীরতর পথ আছে।
  • উচ্চতর ঝুঁকির ব্যবহারের বর্তমান ঝুঁকি মূল্যায়ন ও একটি সংজ্ঞায়িত তত্ত্বাবধানের নকশা আছে।
  • বাস্তবসম্মত ও প্রতিপক্ষমূলক ক্ষেত্রে মূল্যায়ন হালনাগাদ এবং পরিবর্তনে আবার চালানো হয়।
  • প্রম্পট, মডেল, টুল ও তথ্যের উৎস সংস্করণযুক্ত এবং পরিবর্তন নিয়ন্ত্রণের অধীনে।
  • উৎপাদনের পর্যবেক্ষণ ড্রিফট, ভুল, অগ্রাহ্য ও অস্বাভাবিক পদক্ষেপের জন্য নজর রাখে।
  • তত্ত্বাবধান বসানো ভুল দিয়ে পরীক্ষিত, এবং পর্যালোচকের বোঝা বাস্তবসম্মত।
  • নিরীক্ষার ছাপ গোপনীয়তা ও সংরক্ষণের নিয়মের মধ্যে তদন্ত সমর্থন করে।
  • এআই ইনসিডেন্ট ট্যাগ ও দোষারোপহীনভাবে পর্যালোচিত, এবং মালিকেরা ব্যবস্থা বন্ধ করতে পারেন।
  • এআই ফিচারসহ সরবরাহকারী মূল্যায়িত এবং উল্লেখযোগ্য পরিবর্তন জানাতে বাধ্য।

এআই প্রম্পট

এআই ব্যবহারের জন্য একটি ঝুঁকির শ্রেণিবিন্যাসের খসড়া করুন।

ভুল হলে ক্ষতি, কারা প্রভাবিত, মানুষ সম্পর্কে সিদ্ধান্তের সম্পৃক্ততা, পদক্ষেপের স্বায়ত্তশাসন, তথ্যের সংবেদনশীলতা
এবং উল্টানোর সামর্থ্যের ভিত্তিতে [প্রতিষ্ঠানের ধরন]-এ এআই ব্যবহারের জন্য একটি সরল ঝুঁকির শ্রেণিবিন্যাস (তিন বা
চার স্তর) প্রস্তাব করুন। প্রতিটি স্তরের জন্য উদাহরণ ব্যবহার, প্রয়োজনীয় অনুমোদন ও প্রমাণ এবং পর্যালোচনার চক্র
বলুন। আইনি সিদ্ধান্ত বলবেন না। আপনার অনুমান এবং আইন, ঝুঁকি ও নিরাপত্তা বিশেষজ্ঞদের সঙ্গে নিশ্চিত করার
বিষয় তালিকা করুন।

একটি নিবন্ধন ফরম নকশা করুন।

নতুন এআই ব্যবহারের জন্য আটটির বেশি নয় প্রশ্নের একটি সংক্ষিপ্ত সেলফ-সার্ভিস নিবন্ধন ফরম নকশা করুন, যা
স্বয়ংক্রিয়ভাবে একটি প্রাথমিক ঝুঁকির শ্রেণি দেয় এবং উচ্চতর ঝুঁকির ব্যবহার পর্যালোচনায় পাঠায়। উদ্দেশ্য, তথ্য,
প্রভাবিত ব্যবহারকারী, স্বায়ত্তশাসন, বিক্রেতা ও মালিক ঢাকুন। কম ঝুঁকির ক্ষেত্রে এটি কীভাবে দ্রুত রাখবেন ব্যাখ্যা
করুন। আপনার অনুমান এবং ভুল শ্রেণিবিন্যাসের ঝুঁকি তালিকা করুন।

একটি মূল্যায়নের সেটের পরিকল্পনা করুন।

আমরা [প্রক্রিয়া]-তে [কাজ]-এর জন্য এআই ব্যবহার করি। একটি মূল্যায়নের সেট নকশা করতে সাহায্য করুন: বাস্তবসম্মত
ক্ষেত্রের ধরন, কঠিন ও প্রতিপক্ষমূলক ক্ষেত্র, শুদ্ধ ও নিরাপদ আউটপুটের লিখিত মানদণ্ড, যেখানে মানুষ প্রভাবিত
সেখানে ন্যায্যতার যাচাই, কত বড় সেট ব্যবহারিক, কত ঘন ঘন আবার চালাবেন, এবং কোন পরিবর্তন আবার চালানো
শুরু করবে। একটি সেট যথেষ্ট দাবি করবেন না। আপনার অনুমান ও সীমা তালিকা করুন।

একটি এআই ইনসিডেন্ট পর্যালোচনা করুন।

এখানে একটি এআই-সম্পর্কিত ইনসিডেন্টের বিবরণ: [ব্যক্তিগত তথ্য ছাড়া পেস্ট করুন]। একটি দোষারোপহীন পর্যালোচনার
খসড়া করুন: সময়রেখা, কীভাবে শনাক্ত হয়েছিল, অবদানকারী কারণ (তথ্য, প্রম্পট, মডেল, তত্ত্বাবধান, সরবরাহকারী,
প্রক্রিয়া), প্রভাব, কীসে ধারণ হয়েছিল এবং মালিকসহ পদক্ষেপ। মূল্যায়ন, পর্যবেক্ষণ ও পরিবর্তন নিয়ন্ত্রণে বদলের
পরামর্শ দিন। ব্যক্তিকে দোষ দেবেন না। আপনার অনুমান ও খোলা প্রশ্ন তালিকা করুন।

এআই স্কিল

  • Service Management Metrics skill: একটি এআই গভর্ন্যান্স বা ঝুঁকির মেট্রিকের জোড়া রক্ষাবেষ্টনী খুঁজে পেতে ব্যবহার করুন।
  • Service Management Metrics maintainer skill: একটি এআই গভর্ন্যান্স মেট্রিকের এন্ট্রি স্বাধীন প্রমাণ ব্যবহার করে এবং তার কারসাজির উপায় ও রক্ষাবেষ্টনী বহন করে কি না যাচাই করতে ব্যবহার করুন।

মূল শিক্ষা

  • স্বাধীন আবিষ্কারে এআই নিবন্ধন গড়ুন, এবং নিরাপদ ব্যবহারের জন্য একটি দ্রুত পথসহ ঝুঁকির সঙ্গে পরীক্ষার মাত্রা মেলান।
  • মডেল, প্রম্পট, টুল ও তথ্যের উৎসকে পরীক্ষা, অনুমোদন ও ফেরত নেওয়া দরকার এমন পরিবর্তন ধরুন।
  • ব্যবহারের আগে ও চলাকালে বাস্তবসম্মত ও প্রতিপক্ষমূলক ক্ষেত্রে মূল্যায়ন করুন।
  • কাজ করতে পারে এমন মানুষের তত্ত্বাবধানের নকশা করুন, এবং বসানো ভুল দিয়ে পরীক্ষা করুন।
  • এআই ইনসিডেন্টকে অন্য ইনসিডেন্টের মতো দোষারোপহীন পর্যালোচনাসহ ধরুন, এবং মালিকদের ব্যবস্থা বন্ধ করার ক্ষমতা দিন।
  • সরবরাহকারীদের তাদের এআই সম্পর্কে জিজ্ঞাসা করুন, এবং নিয়ম ছোট ও নিরাপদ পথ সহজ রাখুন।

তথ্যসূত্র ও আরও পড়ার জন্য

  1. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
  2. ISO/IEC 42001, Information technology: Artificial intelligence: Management system, International Organization for Standardization, 2023.
  3. ISO/IEC 23894, Information technology: Artificial intelligence: Guidance on risk management, International Organization for Standardization, 2023.
  4. European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
  5. Organisation for Economic Co-operation and Development, OECD AI Principles, 2019 (updated 2024).
  6. Mitchell, M., et al., "Model Cards for Model Reporting," Proceedings of the Conference on Fairness, Accountability, and Transparency, 2019.
  7. Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
  8. Wikipedia, Algorithmic bias.
  9. Wikipedia, Prompt injection.
  10. Wikipedia, Artificial Intelligence Act.
  11. Wikipedia, Responsible AI.
  12. Wikipedia, Regulation of artificial intelligence.
  13. Wikipedia, Shadow IT.
  14. Wikipedia, Goodhart's law.
  15. Wikipedia, Audit trail.