مشكلة الإفراط في الثقة
وكلاء الذكاء الاصطناعي، افتراضيًا، مفرطو الثقة. فإذا أُسنِدت إليهم مهمّة، حاولوا إنجازها بصرف النظر عمّا إذا كانوا يملكون المعلومات أو الأدوات أو القدرة على ذلك. ويُؤدّي هذا الإفراط إلى مخرجات تبدو معقولة لكنها خاطئة، وإجراءات تُتخذ دون سياق كافٍ، وموارد تُهدر على مقاربات لا يمكن أن تنجح.
تعليم الوكلاء التعرّف على عدم اليقين والتصعيد إلى البشر عند الاقتضاء هو أحد أكثر القرارات التصميمية تأثيرًا التي يمكنك اتخاذها. فالوكيل الذي يقول "لستُ متأكّدًا من هذا، هل يمكنك التوضيح؟" أكثر قيمة من ذلك الذي يُنتج بثقة الإجابة الخاطئة.
تصميم نقاط التصعيد
نقاط التصعيد هي شروط محدَّدة ينبغي عند توفّرها للوكيل أن يتوقّف ويطلب مدخلات بشرية. ويمكن تعريفها صراحةً في تعليمات الوكيل أو تنفيذها كفحوصات في إطار عمله.
تشمل نقاط التصعيد الشائعة: التعليمات الغامضة (حين يُمكن تفسير المهمّة بطرق متعدّدة)، والمعلومات المفقودة (حين يحتاج الوكيل إلى بيانات لا يملكها ولا يستطيع الحصول عليها عبر الأدوات)، والإجراءات عالية المخاطر (حين يكون الإجراء غير قابل للتراجع أو ذا عواقب كبيرة)، والإخفاقات المتكرّرة (حين يكون الوكيل قد جرّب مقاربات متعدّدة دون نجاح).
التعليمات التي تُعطيها للوكيل مهمّة جدًا. فتضمين عبارات مثل "إن كان طلب المستخدم غامضًا، فاطلب التوضيح قبل المتابعة" و"إن لم تستطع التحقّق من حقيقة، فقُل ذلك بدلًا من التخمين" يُشكِّل سلوك الوكيل نحو تواضع مناسب.
تقدير الثقة
تُنفِّذ بعض أُطر عمل الوكلاء تقديرَ الثقة، حيث يُقيِّم الوكيل مدى ثقته في إجرائه المخطَّط قبل التنفيذ. فإن كانت الثقة دون حدّ معيّن، يُصعّد الوكيل بدلًا من التنفيذ.
تقدير الثقة قد يكون بسيطًا كأن تطلب من النموذج تقييم ثقته (فعّال على نحو مدهش)، أو متطوّرًا كتشغيل مسارات استدلال متعدّدة والتحقّق من الاتساق (أكثر موثوقية لكن أكثر كلفة). والمقاربة الصحيحة تعتمد على المخاطر المعنيّة. فللمهام منخفضة المخاطر، تكفي الثقة المُبلَّغ عنها ذاتيًا. وللمهام عالية المخاطر، يستحقّ التحقّق متعدّد المسارات الكلفة الإضافية.
تجربة طلب المساعدة
كيف يطلب الوكيل المساعدة مهمّ. فطلب المساعدة الجيد محدّد: "وجدت ثلاثة ملفات قد تحتوي على الإعداد الذي ذكرته. هل يمكنك إخباري بأيٍّ منها هو الصحيح؟" أما طلب المساعدة السيّئ فغامض: "أحتاج إلى مزيد من المعلومات". والطلبات المحدَّدة تساعد الإنسان على تقديم مدخلات مفيدة بسرعة.
توفير السياق مع طلبات المساعدة مهمّ أيضًا. فشرح ما جرّبه الوكيل، وما المعلومات التي وجدها، ولماذا تعثّر، يمنح الإنسان السياق الذي يحتاجه لتقديم توجيه مفيد. فالوكيل الذي يقول "حاولت الاستعلام عن جدول users لكنه لم يُرجع نتائج. هل أُجرِّب اسم جدول مختلفًا؟" أسهل في مساعدته بكثير من ذلك الذي يقول "لقد علقت".
الموازنة بين الاستقلالية والحذر
الوكيل الذي يطلب المساعدة كثيرًا مزعج ويُلغي غرض الأتمتة. أما الذي لا يطلبها أبدًا فغير موثوق. ونقطة التوازن تعتمد على التطبيق المحدّد ومدى تحمُّل المستخدم للمقاطعة.
نمط تصميمي جيد هو تعريف طبقات من الاستقلالية. فالمهام الروتينية المعروفة جيدًا تمضي دون تأكيد. والمهام غير المعتادة لكن منخفضة المخاطر تمضي مع إشعار. والمهام عالية المخاطر أو الغامضة تتوقّف لطلب التأكيد. ويوفّر هذا النهج المتدرّج الأتمتةَ حيثما تكون آمنة، مع الحفاظ على الإشراف البشري حيثما يكون مهمًا.