نظرة عامة والدافع

تضع مؤسسات كثيرة الآن مساعدًا محادثيًا بين المستخدمين ومكتب الخدمة، وبعضها يمنح وكلاء الذكاء الاصطناعي القدرة على التصرف: إعادة ضبط كلمة مرور أو طلب معدات أو إعادة تشغيل خدمة أو تغيير إعداد. روبوت المحادثة (chatbot) تطبيق برمجي يجري محادثة، والمساعد الافتراضي (virtual assistant) يضيف القدرة على أداء مهام نيابة عن المستخدم. والفكرة الأوسع لـالوكيل الذكي (intelligent agent) نظام يدرك بيئة ويتخذ أفعالًا نحو أهداف. تجعل النماذج اللغوية الحديثة هذه الأنظمة أقدر بكثير على المحادثة المفتوحة من سابقاتها القائمة على القواعد، وقد أظهر أول برنامج محادثة، برنامج ELIZA لجوزيف فايزنباوم في الستينيات، سلفًا كم يسهل أن ينسب الناس فهمًا لآلة لا تنتج سوى ردود معقولة.

الجاذبية واضحة. يحصل المستخدمون على مساعدة في أي ساعة دون انتظار. وتنفق الفرق وقتًا أقل على الطلبات الروتينية. والخدمة الذاتية (self-service) هدف قديم في ITSM، والتحول يسارًا، نقل الحل إلى نقاط أبكر وأرخص، فكرة جوهرية في مكتب الخدمة (انظر الموضوع 3.7، مقاييس الخدمة الذاتية والأتمتة). مشكلة القياس أن الأرقام الواضحة تكافئ الأشياء الخاطئة. روبوت ينهي محادثة يُعدّ قد «احتواها»، سواء ساعد المستخدم أو استسلم. وروبوت لا يعرض إنسانًا أبدًا يعظّم الاحتواء. وروبوت يعطي جوابًا خاطئًا بثقة ينتج إخفاقًا هادئًا يظهر اتصالًا غاضبًا بعد أيام.

نوعان من الأنظمة يحتاجان مقاييس مميزة.

  • المساعدون المحادثيون يجيبون الأسئلة ويرشدون المستخدمين ويجمعون المعلومات. مخاطرهم إجابات خاطئة أو غير مفيدة وحبس المستخدمين في حلقات. تركز المقاييس على الحل والدقة والطريق إلى شخص.
  • الوكلاء الذين يتصرفون يغيرون أشياء في العالم: حسابات وأنظمة وبلاغات ومالًا. مخاطرهم فعل خاطئ بعواقب حقيقية. تركز المقاييس على صحة الأفعال وقابلية العكس وحدود الصلاحيات ومسارات التدقيق. تستدعي هذه الاستخدامات حوكمة أقوى، وكثيرًا موافقة بشرية على الخطوات المؤثرة (انظر الموضوع 10.5، مقاييس حوكمة الذكاء الاصطناعي ومخاطره).

مسائل تصميم عدة تشكل ما تقيسه.

  • الصدق بشأن من يتحدث إليه المستخدم. في ولايات قضائية كثيرة واجبات قائمة أو قيد التطوير لإخبار الناس حين يتفاعلون مع نظام ذكاء اصطناعي، وهذه القواعد تتطور اعتبارًا من أكتوبر 2026، فتحقق مما ينطبق عليك. الممارسة الجيدة أن تقول ذلك بوضوح في كل حال.
  • مخرج. يجب أن يستطيع المستخدمون الوصول إلى شخص دون عناء. روبوت يخفي الطريق إلى إنسان نمط مظلم (dark pattern)، تصميم يخدع المستخدمين أو يحبسهم في نتائج لا يختارونها.
  • إتاحة الوصول. يجب أن تعمل واجهات المحادثة للناس الذين يستخدمون التقنيات المساعدة، وذوي القدرة اللغوية المحدودة، ومن يحتاجون لغة أو قناة أخرى.
  • القرارات الآلية. حين تؤثر مخرجات المساعد في حقوق شخص أو وصوله، ينطبق موضوع اتخاذ القرار الآلي (automated decision-making) والواجبات حوله. أبقِ هذه القرارات مع الناس أو بضمانات قوية.

حاجز الحماية من قانون غودهارت (Goodhart's law) حيّ هنا: إن كان الاحتواء أو التحويل هدفًا، فأرخص طريقة لبلوغه جعل الإنسان أصعب وصولًا (انظر الموضوع 1.2، قانون غودهارت وسيكولوجية المقاييس). تضع المقاييس أدناه الحل ونتيجة المستخدم أولًا.

المبادئ الأساسية

  • الحل هو المقياس لا الاحتواء. محادثة انتهت ليست مشكلة حُلت.
  • تحقق، وافحص العودة. عُدّ اتصالًا محلولًا فقط حين يؤكد المستخدم أو لا يعود.
  • وفّر دائمًا طريقًا إلى شخص. اجعله سهلًا وسريعًا ومرئيًا، وانقل السياق معه.
  • كن صادقًا بشأن النظام. قل إنه ذكاء اصطناعي وما يستطيع فعله وما لا يستطيع.
  • قيّد ما يجوز للوكلاء فعله. امنح أقل صلاحية، واشترط موافقة للأفعال المؤثرة، واحتفظ بمسار تدقيق.
  • قِس جودة الإجابات بالعينات. الردود السلسة قد تكون خاطئة.
  • استمع إلى المستخدمين والموظفين الذين يلملمون القطع. هم يرون ما تفوته المقاييس.

تعريفات المقاييس

المقياس التعريف الصيغة الوحدة مصدر البيانات ممارسة ITIL المقابل في الأجايل التكرار
معدل الحل المتحقق منه حصة محادثات الروبوت التي أكد فيها المستخدم حل المشكلة، أو لم يعد خلال فترة معلنة المحادثات ذات الحل المؤكد أو بلا اتصال عودة خلال 7 أيام / المحادثات التي بدأت بنية قابلة للحل نسبة مئوية سجلات المحادثات وتأكيد المستخدم وبيانات البلاغات والاتصالات مكتب الخدمة؛ إدارة المعرفة نتيجة عاملة للمستخدم أسبوعي
معدل اتصال العودة حصة المحادثات التي أنهاها الروبوت وتبعها اتصال عن المشكلة نفسها عبر أي قناة المحادثات التي تبعها اتصال ذو صلة خلال 7 أيام / المحادثات المنتهية بلا تسليم نسبة مئوية سجلات المحادثات مضمومة إلى سجلات البلاغات والاتصالات مكتب الخدمة؛ إدارة الحوادث عيوب متسربة أسبوعي
اكتمال سياق التسليم حصة التسليمات إلى شخص التي كان لدى الشخص فيها المعلومات اللازمة دون أن يطلب من المستخدم التكرار التسليمات المأخوذ منها عينات المحكوم باكتمالها من الوكيل المستلم / التسليمات المأخوذ منها عينات نسبة مئوية تسليمات بالعينات وملاحظات الوكلاء مكتب الخدمة؛ إدارة المعرفة تعاون سلس عبر الحدود شهري
الزمن حتى إنسان الزمن من طلب المستخدم شخصًا، أو قرار الروبوت بالتسليم، إلى تولي شخص الوسيط والنسبة المئوية 85 بالدقائق دقائق سجلات المحادثات وبيانات الطابور مكتب الخدمة؛ إدارة الحوادث الاستجابة حين يحتاج المستخدم مساعدة أسبوعي
دقة الإجابات حصة إجابات الروبوت المأخوذ منها عينات التي حكم مراجع مؤهل أنها صحيحة وكاملة وآمنة الإجابات المحكوم بصحتها / الإجابات المأخوذ منها عينات نسبة مئوية مراجعة بالعينات إدارة المعرفة؛ ضمان الجودة تعريف الإنجاز لإجابة شهري
رضا الروبوت والجهد تقييم المستخدم للرضا والسهولة بعد محادثة، مع التعليقات التقييمات المواتية / التقييمات؛ متوسط تقييم الجهد نسبة مئوية؛ نقاط مقياس استبيان قصير بعد المحادثة مكتب الخدمة؛ تجربة العملاء ملاحظات على برمجيات عاملة أسبوعي
معدل عكس أفعال الوكيل حصة الأفعال التي اتخذها وكيل ذكاء اصطناعي وكان لا بد من تصحيحها أو التراجع عنها أو تصعيدها الأفعال المعكوسة أو المصححة / الأفعال المتخذة، بحسب نوع الفعل وفئة المخاطر نسبة مئوية سجل تدقيق الأفعال وسجلات التغيير تمكين التغيير؛ إدارة الحوادث إعادة العمل والتراجع أسبوعي

عرّف النوايا التي يعالجها الروبوت، واستثنِ من الاحتواء ما ينبغي أن يسلمه دائمًا. يعدّ الحل المتحقق منه محادثة فقط إن كانت المشكلة ضمن النطاق وإما أكد المستخدم أو لم يُظهر اتصال عودة. ويبدأ الزمن حتى إنسان عند طلب المستخدم، لا عند نهاية قائمة خيارات. وتُحكم دقة الإجابات مقابل قاعدة المعرفة والسياسة بشخص لم يبنِ الروبوت. ويُقسَّم معدل عكس أفعال الوكيل بحسب نوع الفعل وفئة المخاطر، ويُبلَّغ أي فعل ضار على حدة حادثة.

التوصيات

عرّف النجاح حلًا

1. عرّف النوايا والنتيجة التي تريدها. اسرد المشكلات التي ينبغي أن يعالجها المساعد، مثل إعادة ضبط كلمة المرور وحالة الوصول وأسئلة الإرشاد، والنتيجة لكل منها: أُجيب أو أُنجز أو سُلِّم. قرر أي النوايا يجب أن تذهب دائمًا إلى شخص: الشكاوى وأي شيء يتضمن ضيقًا أو سلامة أو حقوقًا قانونية أو مالًا. روبوت يحاول معالجة كل شيء يفشل فشلًا سيئًا عند الأطراف.

2. قِس الحل المتحقق منه والعودات. اسأل المستخدمين في النهاية هل حُلت مشكلتهم، وابحث أيضًا عن اتصالات ذات صلة بعد ذلك. لا يكفي أي منهما وحده: المستخدمون الذين يستسلمون لا يجيبون، وبعض من حصلوا على مساعدة يتصلون مع ذلك. معًا يقاربان الحل الحقيقي. عامل معدل اتصال العودة حاجز الحماية الرئيسي لأي رقم احتواء (انظر الموضوع 3.1، مقاييس مكتب الخدمة).

3. تجنب الاحتواء هدفًا. أبلِغ الاحتواء رقمًا وصفيًا فقط ودائمًا بجوار الحل المتحقق منه والعودات والرضا. احتواء صاعد مع عودات صاعدة يعني أن الروبوت يرد الناس. لا تضع هدف احتواء ولا تربط أداء أحد به.

اجعل الطريق إلى شخص سهلًا وجيدًا

4. دع المستخدمين يصلون إلى شخص في أي نقطة. وفّر طريقة واضحة بسيطة لطلب إنسان، واحترمها. قِس الزمن حتى إنسان وحصة المحادثات التي طلب فيها المستخدمون أكثر من مرة. اختبر الطريق بنفسك بانتظام. وحيث لا يتوافر شخص، قل متى سيتوافر وقدّم معاودة اتصال.

5. سلّم مع السياق. حين يمرر الروبوت محادثة إلى شخص، أدرج الملخص وما جُرّب وكلمات المستخدم وتفاصيل الحساب ذات الصلة حتى لا يكرر المستخدم نفسه. اطلب من الوكلاء المستلمين تقييم هل كان التسليم كاملًا، وخذ عينات من النتائج. التسليمات الرديئة تجعل المستخدمين يثقون بالروبوت والخدمة أقل (انظر الموضوع 9.3، مقاييس التعاون وتسليم المهام).

6. صمم لكل المستخدمين. اختبر المساعد مع مستخدمين يستخدمون التقنيات المساعدة، ويكتبون بلغات أخرى، ويتعجلون أو في ضيق، وغير المرتاحين مع التقنية. قدّم قنوات أخرى. قِس الحل المتحقق منه والرضا بحسب مجموعة المستخدمين حيث يكون ذلك آمنًا وقانونيًا. تخفي المتوسطات من يخذلهم الروبوت أكثر.

افحص جودة ما يقوله ويفعله

7. خذ عينات من الإجابات للدقة والأمان. كل شهر، اسحب عينة عشوائية من المحادثات ودع شخصًا مؤهلًا يحكم على الإجابات: صحيحة وكاملة وآمنة وصادقة بشأن عدم اليقين. سجّل الأخطاء بالنوع: قديمة أو مختلقة أو خارج السياسة أو مفهومة خطأ. غذِّ قاعدة المعرفة والإعداد بالأخطاء. أضف اختبارات مستهدفة للموضوعات الحساسة ولمحاولات دفع المساعد خارج نطاقه.

8. أبقِ المعرفة حديثة. المساعد بجودة المحتوى والأدوات التي يستمد منها. اربط أخطاء الإجابات بمقالات المعرفة، وقِس حداثة المعرفة التي يستخدمها (انظر الموضوع 3.6، مقاييس إدارة المعرفة). وحيث يستخدم النظام الاسترجاع من قاعدة معرفة، أدرج فحصًا أنه يستشهد بمصادره وأن المصادر صحيحة.

9. كن صادقًا مع المستخدمين. اذكر في البداية أنهم يتحدثون إلى ذكاء اصطناعي وما يستطيع فعله وما لا يستطيع. لا تعطه اسمًا بشريًا أو أسلوبًا يوحي بغير ذلك. وحين يكون غير متأكد، ينبغي أن يقول ذلك ويعرض شخصًا. افحص القانون المنطبق على الإفصاح.

أخضع الوكلاء الذين يتصرفون للحوكمة

10. صنّف الأفعال بالمخاطر وضع الصلاحيات المطابقة. لكل فعل يستطيع وكيل اتخاذه، عرّف فئة مخاطره: معلوماتي أو قابل للعكس منخفض الأثر أو مؤثر. امنح أقل صلاحية لازمة. اشترط موافقة بشرية للأفعال المؤثرة. احتفظ بمسار تدقيق لكل فعل بسببه والمستخدم والنتيجة. وهذه الضوابط ترتبط بمقاييس التغيير والأمن في أجزاء سابقة (انظر الموضوع 8.1، مقاييس الحوادث الأمنية والثغرات، والموضوع 8.2، مقاييس المخاطر والضوابط).

11. قِس صحة الأفعال وقابلية عكسها. تتبع معدل العكس بحسب نوع الفعل، وراجع كل فعل ضار حادثةً، بلا لوم. اختبر الوكلاء في بيئة آمنة قبل منح الوصول، وأعد الاختبار حين يتغير النموذج أو الأدوات. قد تغير نسخة نموذج جديدة السلوك، فعاملها تغييرًا يحتاج ضبطًا (انظر الموضوع 4.3، مقاييس تمكين التغيير).

12. استمع إلى من يلملمون القطع. يرى موظفو مكتب الخدمة عواقب إخفاقات الروبوت: مستخدمون غاضبون واتصالات متكررة وفوضى تُنظَّف. اسألهم بانتظام ماذا يخطئ فيه الروبوت وما يجعل الأمر أصعب. ملاحظاتهم وتعليقات المستخدمين دليل لا يلتقطه أي مقياس تمامًا، وينبغي أن تشكل الجولة التالية من التغييرات.

مسارات التلاعب وحواجز الحماية

المقياس كيف يُتلاعب به حاجز الحماية أو الممارسة المقترنة
معدل الحل المتحقق منه عدّ أي نهاية محادثة محلولة؛ طرح أسئلة تأكيد موجِّهة عرّف التأكيد بحياد؛ معدل اتصال العودة؛ خذ عينات من المحادثات
معدل اتصال العودة القياس عبر قناة واحدة فقط؛ نوافذ قصيرة ضم كل القنوات؛ استخدم نافذة أطول فحصًا؛ خذ عينات من العودات
اكتمال سياق التسليم تمرير نص طويل بدل ملخص؛ أخذ عينات من تسليمات سهلة تقييم الوكيل المستلم؛ عينة عشوائية؛ الزمن حتى الحل بعد التسليم
الزمن حتى إنسان بدء الساعة بعد القوائم؛ عدّ إقرار الطابور تسلمًا تبدأ الساعة عند الطلب؛ التسلم يعني شخصًا نشطًا في المحادثة
دقة الإجابات أخذ عينات من محادثات سهلة؛ مراجعون متساهلون عينة عشوائية من مراجعين مستقلين؛ حالات اختبار خصامية
رضا الروبوت والجهد استبيان المحادثات المكتملة فقط؛ وضع الاستبيان حيث يصل المستخدمون السعداء فقط استبيان المحادثات المهجورة أيضًا؛ معدل الاستجابة وتركيبتها؛ اقرأ التعليقات
معدل عكس أفعال الوكيل عدم تسجيل العكوس؛ إعادة تصنيف التصحيحات عملًا جديدًا سجل تدقيق مقاوم للعبث؛ اربط العكوس بالأفعال؛ مراجعة الحوادث

القراءة السليمة حل متحقق منه مرتفع بعودات منخفضة، وطرق سهلة وسريعة إلى شخص بتسليمات كاملة، وإجابات دقيقة في المراجعة بالعينات، ومستخدمون راضون عبر المجموعات، ووكلاء نادرًا ما تحتاج أفعالهم عكسًا ولا تسبب ضررًا دون أن يُرى.

المفاضلات: الإيجابيات والسلبيات

النهج نقطة القوة نقطة الضعف
روبوت قائم على القواعد متوقع وسهل الاختبار ضيق وهش ومحبط خارج النصوص
مساعد بنموذج لغوي مرن وسلس قد يخطئ بثقة؛ أصعب اختبارًا
استرجاع من معرفة معتمدة إجابات مؤسسة وأسهل تصحيحًا يعتمد على جودة المحتوى
توليد مفتوح تغطية واسعة خطر اختلاق أعلى
موافقة بشرية على الأفعال أمان أبطأ؛ إرهاق المراجعين
أفعال مستقلة سرعة نطاق ضرر أكبر عند الخطأ
نطاق صارم مع تسليم مبكر آمن احتواء أقل
نطاق واسع احتواء أعلى أخطاء أكثر عند الأطراف

الجواب العملي البدء بنوايا ضيقة مفهومة جيدًا، وتأسيس الإجابات على معرفة معتمدة، وتسهيل المساعدة البشرية، وتوسيع النطاق والاستقلالية فقط بقدر ما تبرره المقاييس.

أسئلة للنقاش مع فريقك

1. لو أراد مستخدم شخصًا الآن، كم خطوة سيستغرق، وهل جربناه بأنفسنا؟ اختبروا الطريق معًا. عُدّوا الخطوات والانتظار. على الميسّر تدوين كل عائق. اتفقوا على تغييرات تجعل الطريق قصيرًا، وقيسوا الزمن حتى إنسان.

2. أي حصة من المحادثات التي أنهاها روبوتنا حلت المشكلة فعلًا؟ افحص العودات والتأكيدات لعينة. قارن برقم الاحتواء. ناقشوا الفجوة. قرروا أي رقم ينبغي أن يراه القادة.

3. ماذا يخطئ فيه روبوتنا، ومن يكتشف؟ اسأل مكتب الخدمة. راجع محادثات بالعينات. ابحث عن أنماط: مقالات قديمة وأسئلة غامضة وموضوعات حساسة. اتفقوا على طريق من الأخطاء إلى الإصلاحات، بمالك.

4. أي الأفعال يجوز للوكيل اتخاذها بنفسه، وأيها يحتاج شخصًا؟ اسرد الأفعال بفئات مخاطرها وصلاحياتها. اسأل ما أسوأ إخفاق واقعي لكل منها. اتفقوا على قواعد الموافقة ومسار التدقيق ومن يراجع الحالات الضارة.

5. من يخذله الروبوت بهدوء؟ فكّر في مستخدمين متعجلين أو في ضيق أو بحاجات إتاحة وصول أو بلغة محدودة. انظر إلى الحل والرضا بحسب المجموعة، حيث يكون آمنًا. اتفقوا على اختبار واحد مع مستخدمين كهؤلاء.

6. ما الذي سيجعلنا نوقف الروبوت أو نضيّق نطاقه؟ عرّفوا الدليل: عودات فوق مستوى، أو أفعال ضارة، أو دقة دون معيار. قرروا من يستطيع القرار. وجود قاعدة إيقاف مسبقًا يسهل التصرف.

أربعة منظورات

فرق المنتج والتسليم

تملك الفرق التي تبني المساعد جودته. وعليها تعريف النوايا، وتأسيس الإجابات على معرفة معتمدة، والاختبار بحالات خصامية، وإصدار التغييرات بضبط، وقراءة الإخفاقات. وعليها مقاومة أهداف الاحتواء التي تكافئ حبس المستخدمين.

فرق الخدمة والعمليات

يعمل موظفو مكتب الخدمة مع المساعد ويرثون إخفاقاته. وعليهم تقييم التسليمات، والتنبيه إلى الإجابات الخاطئة، وإبقاء المعرفة حديثة، والتسلم بسرعة حين يُطلب. هم أفضل الحكام هل يساعد المساعد المستخدمين، وعبء عملهم وضغطهم جزء من الصورة.

القيادة والحوكمة

يرعى القادة المساعد ويريدون الوفورات. وعليهم طلب الحل المتحقق منه والعودات والرضا بجانب الاحتواء، واشتراط قاعدة إيقاف، وتمويل الطريق البشري، ومراجعة فئات المخاطر للوكلاء. وعلى الحوكمة التحقق من الإفصاح وإتاحة الوصول والواجبات القانونية.

العملاء والمستخدمون

يريد المستخدمون مساعدة بجهد قليل ودون خداع. وينبغي أن يعرفوا أنهم يتحدثون إلى ذكاء اصطناعي، وأن يصلوا إلى شخص بسهولة، وأن يثقوا بأن النظام لن يتصرف دون سبب وجيه. وتجربتهم، خصوصًا في الفشل، هي الدليل الأولي على هل المساعد يستحق الاقتناء.

في الممارسة: مثال من إدارة الخدمات

تدير جامعة وطنية مكتب خدمة للطلاب والموظفين يعالج نحو 30,000 اتصال في الشهر. تطلق روبوت محادثة للطلبات الشائعة، وتبلّغ لوحة المورد معدل احتواء 74 في المئة. الأرقام أدناه توضيحية.

يتحقق رئيس خدمات الطلاب. من المحادثات التي أنهاها الروبوت في الشهر الماضي، تبع 29 في المئة اتصال ذو صلة عبر البريد أو الهاتف خلال سبعة أيام. والحل المتحقق منه، باستخدام تأكيد المستخدم وغياب العودة، 49 في المئة للنوايا ضمن النطاق. ووسيط الزمن للوصول إلى شخص بعد الطلب 6 دقائق، بنسبة مئوية 85 قدرها 22، جزئيًا لأن الطريق يتطلب ثلاث خطوات قوائم. وتجد عينة من 100 محادثة يراجعها مستشاران ذوا خبرة 88 إجابة صحيحة و12 معيبة: 7 قديمة، و3 اختلقت تفاصيل عن موعد نهائي، و2 عالجتا بشكل سيئ حالتين حساستين لطالب في صعوبة. ويقيّم الوكلاء المستلمون 54 في المئة من التسليمات كاملة. والرضا عن الروبوت أقل لدى الطلاب الذين يستخدمون قارئات الشاشة ومن يكتبون بلغات غير الإنجليزية. ويبلّغ فريق مكتب الخدمة عن اتصالات كثيرة تبدأ بـ«الروبوت لم يستطع المساعدة».

يجري رئيس خدمات الطلاب تغييرات مع الفريق. تُوجَّه النوايا الحساسة، مثل الرعاية والشكاوى والنزاعات حول الرسوم، مباشرة إلى شخص، ويقول الروبوت ذلك. ويظهر خيار «تحدث إلى شخص» على كل شاشة، ويُتتبع الزمن حتى إنسان، بهدف الإجابة خلال بضع دقائق في ساعات التوظيف. وتتضمن التسليمات ملخصًا آليًا وكلمات المستخدم نفسها. ويصلح مالكو قاعدة المعرفة المقالات القديمة، وتغذيهم مراجعة عينة شهرية. ويُقيَّد المساعد بالإجابة من محتوى معتمد ويُلزم بقول متى لا يعرف. وتتيح تجربة ثانية لوكيل إعادة ضبط كلمات المرور بعد التحقق من الهوية، مع تسجيل كل فعل وقابليته للعكس خلال حد زمني، وتتبع معدل العكس. وتستبدل اللوحة الاحتواء بالحل المتحقق منه ومعدل اتصال العودة والدقة والزمن حتى إنسان والرضا بحسب المجموعة.

بعد ثلاثة أشهر، يبلغ الحل المتحقق منه 66 في المئة للنوايا ضمن النطاق، وينخفض معدل اتصال العودة إلى 14 في المئة، ووسيط الزمن حتى إنسان إلى دقيقتين، وترتفع حصة التسليمات الكاملة إلى 86 في المئة، والدقة في الإجابات المأخوذ منها عينات إلى 95 في المئة، بلا حالات حساسة سيئة المعالجة في العينة. ومعدل عكس أفعال الوكيل في تجربة كلمات المرور 1.2 في المئة. يطلب مكتب رئيس الجامعة هدف احتواء 85 في المئة. يشرح رئيس خدمات الطلاب أن هدف احتواء أعلى سيكافئ إخفاء الطريق إلى شخص، ويقترح الحل المتحقق منه والعودات مقياسين، مع مراجعة ما يُوسَّع تاليًا. يُسجَّل القرار.

الأجايل والذكاء الاصطناعي والأتمتة والتحليلات

الأجايل

حسّن المساعدين بخطوات صغيرة بملاحظات من المستخدمين ومن يتسلمون، وراجع الإخفاقات بانتظام مع أصحاب المصلحة. والتحذير أن مكافأة الاحتواء تعلّم الروبوت إبعاد الناس عن المساعدة.

الذكاء الاصطناعي

لا يكون المساعد المحادثي قد ساعد إلا حين تُحل المشكلة وتبقى محلولة، فقِس الحل المتحقق منه والعودات وجودة التسليم وعكس أفعال الوكيل. عرّف دور الإنسان: من يوافق على الأفعال، ومتى يجب أن يسلم الروبوت، وكيف يتجاوزه شخص. والتحذير أن محادثة لطيفة قد تفشل المهمة مع ذلك.

الأتمتة

سجّل كل محادثة وفعل وكيل، بالصلاحيات وطريقة للتراجع، وقِس الأتمتة بالأفعال الخاطئة. والتحذير أن وكيلًا بصلاحيات واسعة قد يسبب ضررًا بسرعة، فقيّد النطاق وراجع السجلات.

التحليلات

أبلِغ الحل المتحقق منه بتأكيد المستخدم أو نافذة بلا عودة، بالأعداد، واقرأ عينة من المحادثات. والقرار الذي يفيد فيه هو أين يكون التوسيع آمنًا. والتحذير أن درجات الرضا عن محادثات الروبوت تنحاز إلى من أكملوا.

منظور القطاعات

الشركات الناشئة. يستطيع مساعد تغطية الدعم بكلفة منخفضة، وقد تكلف إجابة سيئة واحدة عميلًا. أبقِ النطاق ضيقًا، وأسّس الإجابات على توثيقك، واجعل الخيار البشري واضحًا، واقرأ كل تصعيد. كن حذرًا في ترك وكيل يتصرف في الحسابات أو المدفوعات.

الأعمال الصغيرة. يستطيع مساعد جاهز على موقع ويب معالجة الأسئلة الشائعة. اختبره كما يفعل عميل، وتأكد أن رقم هاتف أو بريدًا سهل الإيجاد، وراجع المحادثات أسبوعيًا. افحص ماذا يفعل المورد بالبيانات.

المؤسسات الكبرى. يقدم الحجم وفورات ومخاطر. شغّل عملية حوكمة لفئات المخاطر والموافقات والتدقيق، وقِس بحسب النية ومجموعة المستخدمين، وتأكد أن شخصًا يمكن الوصول إليه على كل قناة. نسّق بين الدعم والأمن والشؤون القانونية وإتاحة الوصول.

الحكومة والقطاع العام. قد لا يكون للمواطنين مزود بديل، وتنطبق بقوة واجبات إتاحة الوصول والوصول اللغوي والمعاملة العادلة. أبقِ شخصًا يمكن الوصول إليه، وتجنب القرارات الآلية عن الاستحقاقات بلا ضمانات، وانشر كيف يُستخدم المساعد، وافحص واجبات الإفصاح والقانون الإداري (انظر الموضوع 8.5، التقارير التنظيمية والحكومية).

مبررات الأعمال: الدوافع والعائد على الاستثمار والتكلفة الإجمالية للملكية

الكلف هي التراخيص أو الرسوم القائمة على الاستخدام والتكامل وإعداد المحتوى والمراجعة بالعينات الجارية وصيانة قاعدة المعرفة والاختبار والحوكمة. والطريق البشري الجيد يكلف مالًا أيضًا، لأنه يجب توظيفه.

العوائد المحتملة انتظار أقصر للمسائل البسيطة، وتخفيف الاتصالات المتكررة، وتغطية خارج ساعات العمل. وجانب المخاطر يشمل العودات وفقدان الثقة والضرر من إجابات أو أفعال خاطئة والتعرض القانوني. ابنِ الحجة من أرقامك: الحل المتحقق منه والعودات، والكلفة لكل اتصال محلول بما فيه التسليمات، ووقت الموظفين المنفق في إصلاح إخفاقات الروبوت، والرضا بحسب المجموعة. تجنب استخدام ادعاءات الاحتواء أو التحويل من المورد تقديرًا لك. عُدّ كلفة الطريق البشري والحوكمة (انظر الموضوع 7.7، العائد على الاستثمار ومبررات الأعمال).

الأنماط المضادة والمزالق

  • الاحتواء هدفًا. يكافئ إبعاد الناس عن المساعدة. أبلِغ الحل المتحقق منه والعودات.
  • طريق مخفي أو بطيء إلى شخص. نمط مظلم، ويلاحظه المستخدمون. اجعله قصيرًا واختبره.
  • التسليم بلا سياق. يكرر المستخدمون أنفسهم وتنخفض الثقة. مرر ملخصًا.
  • ترك الروبوت يعالج الحالات الحساسة. الرعاية والشكاوى والحقوق تحتاج ناسًا. وجّهها مباشرة.
  • أفعال مستقلة بلا تدقيق أو موافقة. خطأ واحد قد يتضاعف. صنّف وقيّد وسجّل.
  • قياس ما تُظهره لوحة المورد فقط. تجامل. ضم بياناتك.
  • تجاهل المجموعات التي يخذلها الروبوت. تخفيها المتوسطات. اختبر وقسّم حيث يكون آمنًا.
  • لا قاعدة إيقاف. روبوت فاشل يبقى عاملًا. عرّف الدليل الذي سيضيّق نطاقه أو يوقفه.

نموذج النضج

البُعد 1 البدء 2 التطوير 3 التوحيد 4 الإدارة 5 التنسيق
النتائج الاحتواء مبلَّغ الرضا مستطلَع الحل المتحقق منه والعودات متتبَّعان لكل نية مقسَّم بحسب مجموعة المستخدمين؛ قواعد إيقاف معرَّفة؛ الدقة بالعينات شهريًا المساعد والموظفون والمعرفة تتحسن معًا بدليل مشترك
الطريق إلى الناس صعب الإيجاد الخيار متاح طريق قصير؛ الزمن حتى إنسان متتبَّع؛ التسليمات تحمل السياق جودة التسليم مقيَّمة ومحسَّنة؛ التوظيف مطابق للطلب الروبوت والموظفون يتعاونون بسلاسة عبر القنوات، مع احترام خيار المستخدم
الوكلاء الذين يتصرفون أتمتة عشوائية أفعال مبرمجة أفعال مصنفة بالمخاطر وأقل صلاحية وموافقة وتدقيق معدل العكس والضرر مراجَعان؛ التغييرات مضبوطة سلوك الوكيل محكوم عبر المؤسسة والموردين بتأكيد مستقل

قائمة التحقق

  • نوايا المساعد مسرودة، مع تلك التي يجب أن تذهب دائمًا إلى شخص.
  • الحل المتحقق منه ومعدل اتصال العودة مبلَّغان بجانب الاحتواء.
  • طريق مرئي قصير إلى شخص على كل شاشة، والزمن حتى إنسان مقيس.
  • التسليمات تتضمن ملخصًا وكلمات المستخدم، ويقيّمها الوكلاء المستلمون.
  • تؤخذ عينات من الإجابات شهريًا من مراجعين مؤهلين ومستقلين.
  • يُخبَر المستخدمون أنهم يتحدثون إلى ذكاء اصطناعي، وما يستطيع فعله.
  • اختبار إتاحة الوصول واللغات الأخرى يجري مع مستخدمين حقيقيين.
  • أفعال الوكيل مصنفة بالمخاطر، بأقل صلاحية، ومسجلة للتدقيق.
  • معدلات العكس والأفعال الضارة تُراجَع بلا لوم.
  • تحدد قاعدة إيقاف متى يُضيَّق المساعد أو يُوقف.

موجِّهات الذكاء الاصطناعي

عرّف النوايا وقواعد التسليم.

We run a service desk for [type of organization]. The most common contact reasons
are: [list with volumes]. Propose which intents a chatbot should handle fully,
which it should only help with and then hand off, and which must always go to a
person, with reasons. Include handoff information to pass along. Do not invent
statistics. List your assumptions and risks for sensitive cases.

افحص ادعاء احتواء.

Our chatbot dashboard shows containment of [value]. We also have: return contacts
within seven days [value], survey results [values], and a sample of
conversations [describe]. Explain what verified resolution might be, how to
compute it from our data, what the gap between containment and resolution
suggests, and what to check next. Do not claim causes the data cannot support.
List your assumptions.

صمم تصنيف مخاطر لأفعال الوكيل.

An AI agent might take these actions: [list]. For each, propose a risk class
(informational, reversible low impact, consequential), the permission it should
need, whether a person must approve, what to log, how to reverse it, and a
test to run before enabling it. Do not assume specific tools. List your
assumptions and decisions needing security and legal input.

خطط مراجعة لمحادثات الروبوت.

Design a monthly review of bot conversations: sample size and selection
(including some abandoned ones and some from user groups at risk of poor
service), reviewer qualifications, a short rubric for correctness, safety, and
honesty about uncertainty, how to record errors and fix their sources, and how to
report without identifying users. List your assumptions and privacy cautions.

مهارات الذكاء الاصطناعي

  • Service Management Metrics skill: استخدمها لإيجاد حاجز الحماية المقترن بمقياس روبوت محادثة أو وكيل ذكاء اصطناعي.
  • Service Management Metrics maintainer skill: استخدمها للتحقق من أن إدخال مقياس روبوت محادثة يقيس الحل ويحمل مسار تلاعبه وحاجز حمايته.

أهم الخلاصات

  • قِس الحل المتحقق منه واتصالات العودة، وعامل الاحتواء رقمًا وصفيًا فقط.
  • اجعل الطريق إلى شخص قصيرًا ومرئيًا، وسلّم مع السياق.
  • خذ عينات من الإجابات للدقة والأمان، وأبقِ المعرفة التي يستخدمها المساعد حديثة.
  • كن صادقًا أن المستخدمين يتحدثون إلى ذكاء اصطناعي، واختبر مع المستخدمين الأرجح أن يُخذلوا.
  • للوكلاء الذين يتصرفون، صنّف المخاطر وقيّد الصلاحيات واشترط موافقة للأفعال المؤثرة واحتفظ بمسار تدقيق.
  • عرّف قاعدة إيقاف مسبقًا.

المراجع والقراءات الإضافية

  1. Weizenbaum, J., "ELIZA: A computer program for the study of natural language communication between man and machine," Communications of the ACM, 9(1), 1966.
  2. National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
  3. European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
  4. Dixon, M., Toman, N., and DeLisi, R., The Effortless Experience, Portfolio/Penguin, 2013.
  5. Parasuraman, R., and Manzey, D. H., "Complacency and bias in human use of automation: An attentional integration," Human Factors, 52(3), 2010.
  6. Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
  7. Wikipedia, Chatbot.
  8. Wikipedia, Virtual assistant.
  9. Wikipedia, Intelligent agent.
  10. Wikipedia, Self-service.
  11. Wikipedia, Dark pattern.
  12. Wikipedia, Automated decision-making.
  13. Wikipedia, Goodhart's law.